I. Introducción
La Resolución legislativa del Parlamento Europeo, de 13 de marzo de 2024, sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial -LiA) marca un hito significativo para el futuro proceso de modernización y eficiencia en la prestación de servicios gubernamentales. En un entorno cada vez más digitalizado y tecnológicamente avanzado, la implementación de sistemas de IA en la gestión pública se presenta como una oportunidad para mejorar la calidad de los servicios, optimizar los procesos administrativos y garantizar una mayor transparencia en la toma de decisiones.
La aprobación de la norma persigue la promoción de una inteligencia artificial centrada en el ser humano y fiable, al tiempo que se asegura un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales de los ciudadanos. En este sentido, se busca establecer un marco jurídico uniforme que regule el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión Europea, en línea con los valores y principios éticos de la Unión (1) .
La adopción de normas armonizadas para la introducción y el uso de sistemas de IA en la Administración Pública deberá inspirarse en la búsqueda mejorar la eficiencia y la calidad de los servicios, sino también garantizar la protección de los derechos de los ciudadanos. Así, el Reglamento tiene como objetivo brindar apoyo a la innovación, al tiempo que se establecen prohibiciones para ciertas prácticas de IA y se definen requisitos específicos para los sistemas de IA de alto riesgo (2) .
En el contexto actual resulta fundamental comprender el impacto que la implementación de sistemas de IA supondrá en la Administración Pública y, por ello, la alfabetización en materia de inteligencia artificial juega un papel crucial en la correcta aplicación de los elementos técnicos durante el desarrollo de sistemas de IA, así como en la interpretación de la información de salida y en la comprensión de las repercusiones de las decisiones adoptadas con la ayuda de la IA (3) . De esta forma se torna en necesidad que todos los agentes que conforman la cadena de valor de la IA adquieran los conocimientos necesarios para garantizar con plena seguridad jurídica el cumplimiento adecuado y la correcta ejecución de estos sistemas.
Una vez sea suscrito por el Consejo y posteriormente publicada en el Diario Oficial de la Unión Europea con previsión de vacatio legis de 2 años, su futura entrada en vigor implicará no solo la obligación de asumir sus postulados y regulación, sino también una promoción de la cultura organizacional orientada a la ética y la transparencia en el uso de la IA en la Administración como nueva solución innovadora que permitirá también el desarrollo de un ecosistema europeo de agentes públicos, y privados, comprometidos con los valores de la Unión y con la protección de los derechos fundamentales de los ciudadanos (4) .
II. Contexto del Reglamento de Inteligencia Artificial en la Administración Pública
El recién aprobado Reglamento de Inteligencia Artificial viene a establecer dentro de la Unión Europea un marco normativo con la pretensión de regular el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA de forma que, centrado en el contexto de la Administración Pública, la implementación de estos sistemas viene a plantear desafíos específicos en términos de transparencia, rendición de cuentas y protección de datos. Los sistemas de IA a utilizar en la Administración Pública deberán cumplir con los principios éticos y legales establecidos en el Reglamento, garantizando que se respeten los derechos de los ciudadanos y que las decisiones tomadas por estos sistemas sean justas y transparentes.
La implementación de sistemas de IA tenderá a mejorar la eficiencia de los servicios públicos
El Reglamento reconoce la importancia de promover una IA fiable y centrada en el ser humano, remarcando un especial interés en brindar una protección de alto nivel respecto de la salud, seguridad y derechos fundamentales de los ciudadanos. En este sentido, se establecen requisitos específicos para los proveedores de sistemas de IA, como la integración de soluciones técnicas que permitan marcar y detectar si el resultado ha sido generado o manipulado por un sistema de IA y no por un ser humano, utilizando técnicas como marcas de agua, identificación de metadatos y métodos criptográficos para demostrar la procedencia y autenticidad del contenido con la finalidad de diluir riesgos de desinformación y manipulación a escala, fraude, suplantación de identidad y engaño a los ciudadanos (5) .
Además, el Reglamento destaca la importancia de informar a los empleados y a sus representantes sobre el despliegue previsto de sistemas de IA de alto riesgo en el lugar de trabajo, incluso si no se cumplen las condiciones de las obligaciones de información previstas en otros instrumentos jurídicos. Este derecho de información es de carácter accesorio y necesario para la protección de los derechos fundamentales, y, de esta forma, en el Reglamento se establece un requisito de información con la finalidad de garantizar la transparencia y la protección de los trabajadores (6) .
En el ámbito de la Administración Pública, la implementación de sistemas de IA tenderá a mejorar la eficiencia de los servicios públicos que prestan, automatizando tareas repetitivas y optimizando los procedimientos administrativos. Sin embargo, también plantea desafíos en términos de protección de datos, garantía de la equidad en las decisiones automatizadas y promoción de la transparencia en la toma de decisiones, adquiriendo gran relevancia el marco normativo de regulación de la implementación de la IA en el sector público.
También la llegada de la IA a la Administración Pública requerirá la adopción de medidas específicas tendentes a garantizar la protección de los derechos fundamentales de los ciudadanos y la transparencia en la toma de decisiones, para ello, se establece en el Reglamento la obligación de los proveedores de sistemas de IA de adoptar directrices para el cumplimiento del Derecho de la Unión en materia de derechos de autor y de proporcionar un resumen de los contenidos utilizados para el entrenamiento, protegiendo al mismo tiempo los secretos comerciales y la información empresarial confidencial (7) .
Especial mención adquiere la importancia en la promoción de la alfabetización en materia de inteligencia artificial entre los funcionarios públicos (entiéndase en concepto extensivo a los empleados del sector público) y a los ciudadanos, todo ello con la finalidad de garantizar una correcta implementación de estos sistemas y fomentar así la confianza en su uso dentro del ámbito administrativo. Así, la formación y sensibilización en materia de IA resultarán fundamentales para asegurar su implementación en la Administración Pública de forma ética y responsable, evitando posibles sesgos y cualquier tipo de discriminación en las decisiones automatizadas que mediante el uso de sistema de IA puedan tener repercusión o llegar a afectar a los ciudadanos.
III. Consideraciones de interés en la Implementación de Sistemas de IA
La implementación de sistemas de IA quedará sujeta al ordenamiento jurídico con especial trascendencia en cuanto a las regulaciones tendentes a garantizar un uso ético, transparente y responsable. Sin ánimo de exhaustividad, detallamos los ámbitos clave que deberán considerarse en esta materia:
- ○ Reglamento de la Unión Europea sobre IA: el propio Reglamento de Inteligencia Artificial de la Unión Europea se erige en el marco normativo que regulará el desarrollo, la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión. Como supra hemos indicado, la norma incide en promover una IA fiable y centrada en el ser humano, garantizando un alto nivel de protección de la salud, la seguridad y los derechos fundamentales de los ciudadanos (8) .
- ○ Protección de Datos: la implementación de sistemas de IA deberá cumplir con el ordenamiento en materia de protección de datos destacando el Reglamento 2016/679 General de Protección de Datos (GDPR) y la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (LOPDyGDD). Se apuesta de forma decidida en la garantía de la privacidad y de la seguridad de los datos de carácter personal que sean utilizados por los sistemas de IA, así como en asegurar la transparencia en el procesamiento de datos y el consentimiento informado de los usuarios constituyendo la "gestión de la privacidad y de los datos" uno de los siete principios contenidos en las Directrices éticas para una IA fiable, de 2019, elaboradas por el Grupo Independiente de Expertos de Alto Nivel sobre IA creado por la Comisión; siendo que el sintagma «gestión de la privacidad y de los datos» debe entenderse cumplido por los sistemas de IA que se desarrollan y utilizan de conformidad con normas en materia de protección de la intimidad y de los datos, al tiempo que tratan datos que cumplen normas estrictas en términos de calidad e integridad (9) .
- ○ Transparencia y entendimiento: por «transparencia» se entiende que los sistemas de IA se desarrollan y utilizan de un modo que permita una trazabilidad y entendimiento adecuados, y que, al mismo tiempo, haga que las personas sean conscientes de que se comunican o interactúan con un sistema de IA e informe debidamente a los responsables del despliegue acerca de las capacidades y limitaciones de dicho sistema de IA y a las personas afectadas acerca de sus derechos (10) .
De esta forma los sistemas de IA deben desarrollarse y utilizarse de manera transparente, permitiendo una trazabilidad y entendimiento adecuado respecto de las decisiones que puedan llegar a adoptarse por estos sistemas. Lo anterior implica el informar a los usuarios sobre el uso de la IA, sus capacidades y limitaciones, así como garantizar que las decisiones automatizadas sean comprensibles y justificables (11) .
- ○ No Discriminación, diversidad y equidad: por «diversidad, no discriminación y equidad» se entiende que los sistemas de IA se desarrollan y utilizan de un modo que incluya a diversos agentes y promueve la igualdad de acceso, la igualdad de género y la diversidad cultural, al tiempo que se evitan los efectos discriminatorios y los sesgos injustos prohibidos por el Derecho nacional o de la Unión.
- ○ De esta forma los sistemas de IA deben desarrollarse y utilizarse de manera que eviten efectos discriminatorios y sesgos injustos, promoviendo la igualdad de acceso, la igualdad de género y la diversidad cultural, reuniendo un carácter capital la garantía de que los sistemas de IA no perpetúen ni amplifiquen las desigualdades existentes en la sociedad (12) .
- ○ Bienestar Social y Ambiental: por «bienestar social y ambiental» se entiende que los sistemas de IA se desarrollan y utilizan de manera sostenible y respetuosa con el medio ambiente, así como en beneficio de todos los seres humanos, al tiempo que se supervisan y evalúan los efectos a largo plazo en las personas, la sociedad y la democracia. La aplicación de estos principios debe traducirse, cuando sea posible, en el diseño y el uso de modelos de IA (13) .
- ○ Formación y alfabetización en IA: se destaca la importancia en la promoción de la formación y alfabetización en materia de inteligencia artificial entre los actores involucrados en la implementación de sistemas de IA, incluidos los funcionarios públicos, los desarrolladores de tecnología y los ciudadanos. La formación en IA contribuye a garantizar un uso adecuado y ético de estos sistemas, así como a fomentar la confianza en su aplicación (14) .
IV. Impacto en la Modernización de la Administración Pública en España
La modernización de nuestra Administración mediante la implementación de la IA representa un desafío que incidirá de forma decisiva en el avance significativo de la transformación digital del sector público, y así, mediante la incorporación de esta tecnología se producirá un claro impacto en materia de eficiencia, transparencia e, incluso, en un aumento de los índices de calidad esperada respecto de los servicios ofrecidos a la ciudadanía. A modo de ejemplo, podemos destacar:
- ○ Eficiencia y productividad: La IA puede automatizar tareas repetitivas y procesos administrativos, lo que permite a los empleados públicos centrarse en actividades que puedan resultar de mayor valor añadido toda vez que la automatización de procesos mediante IA puede aumentar la productividad del sector público por reducción de la carga de trabajo asociada a tareas repetitivas, y, de esta forma emplear los funcionarios públicos un mayor tiempo en desempeñar actividades que requieren un mayor nivel de análisis y toma de decisiones estratégicas.
Así, y a modo de ejemplo, la implementación de los chatBots basados en IA permitiría proporcionar respuestas rápidas y precisas a consultas de carácter cotidiano, mejorando de esta forma la experiencia del ciudadano y reduciendo los tiempos de espera en la atención personal de los vecinos toda vez que numerosos modelos de IA, algunos de uso general, son capaces de generar texto, imágenes y otros contenidos que se presentan como una verdadera oportunidad de innovación y mejora (15) .
- ○ Mejora en la prestación de servicios: A través de los sistemas de IA es posible lograr una mejor en la optimización de la prestación de servicios públicos al ciudadano mediante la agilización de trámites sencillos, o proporcionándoles respuestas rápidas a consultas y mejorando de esta forma la experiencia del usuario de los servicios públicos en general.
- ○ La optimización de los procesos de atención al ciudadano mediante sistemas de IA llegará a desempeñar un papel fundamental en la atención al ciudadano toda vez que, mediante la implementación de dichos sistemas en la gestión de trámites administrativos, se logrará agilizar los procedimientos y reducir la burocracia, lo que se traduce en una mayor eficiencia en la prestación de servicios públicos.
- ○ Toma de decisiones informada: Los sistemas de IA permiten analizar grandes volúmenes de datos para proporcionar información relevante y análisis predictivos que ayuden a los responsables de la toma de decisiones en la Administración Pública a diseñar políticas más efectivas y basadas en evidencia.
- ○ De esta forma se configuran los sistemas de IA como aliados que permiten el análisis de datos de forma eficaz en la identificación de tendencias, patrones y correlaciones que se contiene dentro de volúmenes de información compleja. Esta capacidad de análisis predictivo puede ser especialmente útil para diseñar políticas públicas basadas en evidencia y orientadas a las necesidades reales de la sociedad.
- ○ Transparencia y acceso a la información: La implementación de IA puede facilitar el acceso a la información pública de manera más eficiente y transparente, lo que contribuye a fortalecer la rendición de cuentas y la participación ciudadana en la gestión pública. De esta forma la IA se configura como una contribución a la mejora en la gestión pública respecto de la disponibilidad y la accesibilidad de los datos e información de carácter público, facilitando su uso la publicación de información de manera más estructurada y de una forma más comprensible para los ciudadanos. La transparencia no sólo fortalece la gestión pública, sino que también fomenta la participación ciudadana y la claridad en lo relativo a la rendición de cuentas de las autoridades.
- ○ Reducción de errores y sesgos: La IA ofrece la posibilidad de minimizar la influencia de los factores subjetivos en los procesos de decisión, pudiendo ser eficaz en los procesos de identificación de sesgos y garantizar una mayor equidad en la asignación de recursos públicos. De esta forma, el empleo de algoritmos de IA basados en modelos objetivos y criterios predefinidos pueden contribuir a una toma de decisiones más imparcial y transparente en la Administración Pública de forma que se reduzca la posibilidad de error humano y de sesgos en la toma de decisiones, lo que promueve una mayor equidad y objetividad en la consecución del interés general que inspira la actuación de la Administración Pública
- ○ Optimización de recursos: La IA puede ayudar a optimizar la asignación de recursos públicos, identificando áreas de mejora y priorizando acciones en función de las necesidades reales de la ciudadanía lo que se traduce en una asignación más eficiente y efectiva de los recursos públicos disponibles. Siendo que la implementación de sistemas de IA en la gestión de inventarios y logística permite el reducir los costes operativos y mejorar la planificación de la cadena de suministro en el sector privado, ninguna cabe que extrapolar su uso al sector público redundará en dichas ventajas.
En conclusión, consideramos que implementar sistemas de IA en la Administración generará un impacto significativo en la eficiencia, transparencia y calidad percibida de los servicios públicos. De esta forma aquellas acciones de automatización de tareas administrativas, mejora en la prestación de servicios, en la toma de decisiones informada, en la transparencia y el acceso a la información, la siempre necesaria reducción de errores y sesgos, y la optimización de recursos son algunos de los beneficios clave que justifican la apuesta por la IA en el sector público. No obstante, a riesgo de resultar reiterativos, todo lo anterior teniendo en cuenta que la implementación de dichos sistemas deberá realizarse de manera ética, transparente y siempre guiadas en el respeto de los derechos fundamentales de los ciudadanos al objeto de lograr la garantía de un uso responsable, sostenible y beneficioso de esta tecnología de alto impacto en la Administración Pública.
V. Desarrollo de la Inteligencia Artificial centrada en el ciudadano
El Reglamento viene a destacar su enfoque en el ciudadano y desde su inicio se resalta el hecho de que dadas las importantes repercusiones que la IA puede tener en la sociedad y la necesidad de generar confianza, es fundamental que la IA y su marco reglamentario se desarrollen de conformidad con los valores de la Unión consagrados en el artículo 2 del Tratado de la Unión Europea (TUE), los derechos y libertades fundamentales consagrados en los Tratados y, de conformidad con el artículo 6 del TUE, la Carta. Como requisito previo, la IA debe ser una tecnología centrada en el ser humano. Además, debe ser una herramienta para las personas y tener por objetivo último aumentar el bienestar humano (16) . De esta forma, en lugar de ser una tecnología autónoma o separada de la humanidad, la IA debe ser concebida y diseñada en una utilización destinada a satisfacer las necesidades y aspiraciones de las personas.
La IA puede contribuir a resolver problemas sociales y facilitar el acceso a la información y la educación
Al enfocarse en aumentar el bienestar humano, la IA puede contribuir a resolver problemas sociales, mejorar la eficiencia de los servicios públicos, facilitar el acceso a la información y la educación, entre otros beneficios. Además, al centrarse en el bienestar humano, se promueve un enfoque ético en el desarrollo y uso de la tecnología, asegurando que los impactos sean positivos y respeten los derechos fundamentales de las personas, y, en todo caso, enfatizando en la necesidad de que la tecnología se oriente hacia el beneficio de la sociedad en su conjunto.
Además del ciudadano persona también el Reglamento presenta un enfoque de los sistemas IA respecto de la participación ciudadana y el diálogo abierto, ambos son aspectos clave para promover la transparencia y la responsabilidad en su desarrollo de forma que, al involucrar a los ciudadanos en el proceso de diseño y evaluación de los sistemas de IA, se garantiza que se tomen en cuenta sus opiniones y preocupaciones.
El diálogo debe estar presente entre los diferentes actores implicados: los ciudadanos, los desarrolladores y los reguladores; de esta forma se fomenta una mayor confianza en la tecnología y mediante la colaboración de todos se pretende identificar posibles riesgos o sesgos. Por último, se concibe esa participación ciudadana como forma de contribución a la legitimidad de las decisiones relacionadas con la IA y de promoción a una mayor aceptación de la tecnología como motor de avance en la Sociedad.
A contrario sensu, el Reglamento también incide en los riesgos para la ciudadanía y así, al margen de los múltiples usos beneficiosos de la IA, dicha tecnología también puede utilizarse indebidamente y proporcionar nuevas y poderosas herramientas para llevar a cabo prácticas de manipulación, explotación y control social. Dichas prácticas son sumamente perjudiciales e incorrectas y deben estar prohibidas, pues van en contra de los valores de la Unión de respeto de la dignidad humana, la libertad, la igualdad, la democracia y el Estado de Derecho y de los derechos fundamentales consagrados en la Carta, como el derecho a la no discriminación, a la protección de datos y a la intimidad y los derechos del niño (17) .
Vamos a abordar también en este apartado una cuestión relevante cual es el impacto social y ambiental, así, la implementación y el uso de esta tecnología tienen en la sociedad y en el medio ambiente por lo que adquiere el carácter de fundamental la consideración y evaluación de mecanismos que garanticen que la IA se desarrolle y utilice de manera sostenible y responsable.
En el ámbito social, el Reglamento va a tener en consideración que la implantación de los sistemas de IA puede tener efectos tanto positivos como negativos, y así, esta tecnología puede mejorar la eficiencia de los servicios públicos, facilitar el acceso a la información y la educación, y contribuir al desarrollo económico y social. Sin embargo, también puede plantear desafíos en términos de desigualdad, discriminación, riesgos en materia de privacidad y seguridad. Es crucial abordar estos aspectos para garantizar que la IA beneficie a toda la sociedad y no genere exclusiones o injusticias.
En cuanto al impacto ambiental, la IA puede influir en la conservación de recursos naturales, la mitigación del cambio climático y la sostenibilidad ambiental en general. Por ejemplo, la tecnología puede utilizarse para optimizar procesos industriales, reducir el consumo de energía y mejorar la gestión de residuos. Sin embargo, también es importante tener en consideración el uso de recursos energéticos y materiales en el desarrollo y funcionamiento de los sistemas de IA, así como su posible contribución a la generación futura de residuos electrónicos.
VI. Desafíos, oportunidades y riesgos de los modelos de uso general de IA en la Administración
En cuanto a los desafíos en la implementación y uso de la IA por parte de la Administración, consideramos de interés los siguientes:
- ○ Interpretación y Transparencia: La complejidad de los modelos de IA puede suponer un absoluto desafío en cuanto a la interpretación de sus resultados, de ahí la importancia de los sistemas de transparencia en su funcionamiento.
- ○ La transparencia, incluidas las instrucciones de uso que acompañan a los sistemas de IA, deben ayudar a los responsables del despliegue de la misma en cada Administración a utilizar el sistema y poder tomar decisiones con conocimiento de causa, debiendo estar en las mejores condiciones para elegir correctamente el sistema que pretenden utilizar a la luz de las obligaciones que les son aplicables, estar informados sobre los usos previstos y excluidos, y, en definitiva, a utilizar el sistema de IA correctamente y según proceda.
- ○ Responsabilidad y Ética: Deberán establecerse protocolos de determinación de la responsabilidad en los supuestos de que se adopten decisiones erróneas o sus resultados ofrezcan sesgos, de ahí la importancia de la supervisión como desafío en el ámbito de la Administración.
- ○ Privacidad y Protección de Datos: Deben articularse mecanismos que garanticen la privacidad y el respeto al derecho fundamental a la protección de datos de carácter personal, así y teniendo en cuenta el ingente volumen de datos que maneja la Administración, el uso de la IA supone uno de los desafíos más importantes y sólo esta temática daría lugar a una monografía, siendo, por tanto, identificada como uno de los desafíos más relevantes.
- ○ Capacitación del Personal: La capacitación del empleado público para comprender y utilizar eficazmente los sistemas de IA puede suponer un desafío en términos de adquisición de habilidades y conocimientos, deberían de comenzar a implementarse ya políticas en este sentido al objeto de que a la entrada en vigor del Reglamento se esté en condiciones de afrontar dicho desafío.
- ○ En este sentido resulta trascendental la implementación de formación en materia de sistemas de «alfabetización en materia de inteligencia artificial» y definidas en el Reglamento como las capacidades, los conocimientos y la comprensión que permiten a los proveedores, responsables del despliegue y demás personas afectadas, teniendo en cuenta sus respectivos derechos y obligaciones en el contexto del presente Reglamento, llevar a cabo un despliegue informado de los sistemas de IA y tomar conciencia de las oportunidades y los riesgos que plantea la inteligencia artificial, así como de los perjuicios que puede causar (artículo 3.56).
Lo anterior sin olvidar lo dispuesto en el artículo del Reglamento que impone a los proveedores y responsables del despliegue de sistemas de IA el deber de adoptar medidas para garantizar que, en la mayor medida posible, su personal y demás personas que se encarguen en su nombre del funcionamiento y la utilización de sistemas de IA tengan un nivel suficiente de alfabetización en materia de IA, teniendo en cuenta sus conocimientos técnicos, su experiencia, su educación y su formación, así como el contexto previsto de uso de los sistemas de IA y las personas o los grupos de personas en que se utilizarán dichos sistemas.
- ○ Ciber Seguridad: La ciberseguridad es una de las ramas que también se erige en desafío respecto de la implementación de los sistemas de IA, deberá estarse a la regulación en materia de documento electrónico y Esquema Nacional de Seguridad.
- ○ Equidad y No Discriminación: Deben evitarse los errores, sesgos y toda posibilidad de discriminación en los resultados generados por los modelos de IA y, de esta forma, garantizar la equidad en la prestación de servicios públicos.
- ○ Coste de implementación: El coste que conllevará la implementación y mantenimiento de sistemas de IA puede representar un desafío financiero para las entidades públicas, especialmente a las Entidades Locales de menor tamaño, deberá preverse los mecanismos de compensación y la vital actuación de las Diputaciones en garantía de igualdad de accesos y oportunidades.
- ○ Interoperabilidad: Asegurar la interoperabilidad de los sistemas de IA utilizados en diferentes áreas de la Administración será uno de los desafíos para garantizar la cohesión y eficiencia en la prestación de servicios, éste desafío deberá transformarse en oportunidad al objeto de lograr una mejor atención al ciudadano.
- ○ Gestión del cambio: Gestionar el cambio organizacional necesario para integrar la IA en los procesos administrativos puede ser un desafío en términos de función pública y responsabilidad, deberá estarse a los concretos desarrollos que se realicen de la norma.
En cuanto a las oportunidades en la implementación y uso de la IA por parte de la Administración, consideramos de interés los siguientes:
- ○ Automatización de tareas: La automatización de tareas rutinarias mediante la IA puede liberar tiempo y recursos para actividades más estratégicas en la Administración, supondrá un cambio de paradigma organizacional y una optimización de los recursos humanos.
- ○ Optimización de procesos: La IA puede contribuir a la optimización de procesos y procedimiento administrativo, agilizando mediante su uso la toma de decisiones y mejorando la eficiencia en la gestión pública.
- ○ Mejora en la prestación de servicios: Se podrá mejorar la calidad y personalización de los servicios ofrecidos a los ciudadanos, aumentando la satisfacción y eficacia en la gestión pública al liberar al personal de la obligación de revisar tareas rutinarias y sencillas que conllevan un gran consumo de recursos y tiempo.
- ○ Análisis predictivo: Es innegable la capacidad de la IA para realizar análisis predictivos y, con ellos, la posibilidad de anticipar necesidades y tomar decisiones con diversos enfoques que redundarán en el mayor acierto de las mismas o, en la minimización de errores.
- ○ Eficiencia en la toma de decisiones: La IA puede proporcionar información y análisis en tiempo real para facilitar la toma de decisiones estratégicas por parte de los técnicos de la Administración.
- ○ Reducción de errores: Como hemos destacado en el presente artículo y, ahora con una relevancia propia como oportunidad de mejora, el uso de la IA contribuirá a la reducción de errores humanos en la gestión administrativa, mejorando la precisión y fiabilidad de los procesos y manejo de información.
- ○ Personalización de servicios: En cuanto a la atención al ciudadano, los sistemas de IA se presentan como una verdadera oportunidad de personalizar servicios y adaptarse a sus concretas necesidades individuales, con incidencia directa en cuanto a la mejora de la experiencia del usuario en la Administración.
- ○ Innovación tecnológica: La adopción de la IA constituye en sí una innovación tecnológica que esperamos adopte la Administración con celeridad dentro de las políticas encaminadas al desarrollo de soluciones para la mejor satisfacción del interés general.
- ○ Eficiencia operativa y mejora de servicios: El uso de la IA logrará reducir los tiempos de respuesta y optimizando recursos para una gestión más efectiva de los procedimientos y resoluciones por parte de los empleados públicos.
Por último, en cuanto a los riesgos podemos destacar los siguientes:
- ○ En materia de privacidad y protección de datos: Deben articularse mecanismos que garanticen la privacidad y el respeto al derecho fundamental a la protección de datos de carácter personal, así y teniendo en cuenta el ingente volumen de datos que maneja la Administración, el uso de la IA supone uno de los riesgos más importantes y, como supra hemos indicado, sólo esta temática daría lugar a una monografía, siendo, por tanto, identificada como uno de los desafíos más relevantes.
- ○ Dependencia Tecnológica: La dependencia excesiva de la IA en la Administración puede generar vulnerabilidades ante posibles fallos del sistema o interrupciones en el suministro de tecnología, impactando en la continuidad de los servicios públicos. Éstas situaciones deben contemplarse en el sistema de gestión de riesgos a implementar por cada Administración al objeto de detectar y mitigar los riesgos pertinentes de los sistemas de IA para la salud, la seguridad, la prestación de los servicios esenciales a la Comunidad y de protección y garantía de los derechos fundamentales.
- ○ Resistencia al cambio: La resistencia al cambio por parte del personal y los ciudadanos ante la adopción de la IA en la Administración puede obstaculizar la implementación efectiva de nuevas tecnologías y procesos.
En este sentido resulta trascendental la implementación de sistemas de «alfabetización en materia de inteligencia artificial» y que el Reglamento define en su artículo 3.56 como las capacidades, los conocimientos y la comprensión que permiten a los proveedores, responsables del despliegue y demás personas afectadas, teniendo en cuenta sus respectivos derechos y obligaciones en el contexto del presente Reglamento, llevar a cabo un despliegue informado de los sistemas de IA y tomar conciencia de las oportunidades y los riesgos que plantea la inteligencia artificial, así como de los perjuicios que puede causar.
- ○ Mal uso de la Tecnología: El artículo 3.13 del Reglamento define el «uso indebido razonablemente previsible» como aquella utilización de un sistema de IA de un modo que no corresponde a su finalidad prevista, pero que puede derivarse de un comportamiento humano o una interacción con otros sistemas, incluidos otros sistemas de IA, razonablemente previsible.
- ○ Por tanto, existe el riesgo de que los sistemas de IA sean utilizados de manera inapropiada o maliciosa, lo que podría resultar en consecuencias negativas para la seguridad, la privacidad y los derechos fundamentales de los ciudadanos. Se erigen en fundamentales los mecanismos de ética pública y régimen disciplinario previstos en la normativa de función pública, y, con carácter básico destacamos los contenidos en el Real Decreto Legislativo 5/2015, de 30 de octubre, por el que se aprueba el texto refundido de la Ley del Estatuto Básico del Empleado Público; y resto de normativa concordante de aplicación.
- ○ Falta de supervisión humana sobre el sistema de IA: Este riesgo puede aumentar significativamente la probabilidad de errores y de toma de decisiones perjudiciales, destacando la importancia de mantener un control humano en el control, supervisión, adopción y funcionamiento de los procesos automatizados.
VII. Conclusiones y Recomendaciones
El Reglamento de Inteligencia Artificial propuesto por el Parlamento Europeo para el período 2019-2024 representa un avance significativo en la regulación de la IA en la Unión Europea. A través de este marco jurídico uniforme, se busca promover una IA centrada en el ser humano, fiable y ética, al tiempo que se garantiza un alto nivel de protección de la salud, la seguridad y los derechos fundamentales de los ciudadanos europeos. De esta forma y mediante la introducción de un marco normativo claro y firme se fomenta la garantía para el ciudadano de que, en los procesos de introducción en el mercado, de puesta en servicio y de utilización de sistemas de IA se respetará el objetivo proteger los derechos fundamentales, fomentar la innovación y crear un ecosistema europeo de agentes públicos y privados alineados con los valores de la Unión. En este contexto, es fundamental que las autoridades comprendan y apliquen adecuadamente las disposiciones del Reglamento para asegurar un uso ético y responsable de la IA tanto en el desarrollo de los procedimientos administrativos cuanto en la prestación de sus propios servicios.
Asimismo, la supervisión y gobernanza de los modelos de IA de uso general son aspectos cruciales abordados por el legislador en el Reglamento y, de esta forma, se establece la creación de un grupo de expertos científicos para contribuir a la supervisión de la Oficina de IA y proporcionar alertas cualificadas en casos de riesgos identificables a escala de la Unión, lo que refuerza la importancia de la colaboración entre actores públicos y privados en la regulación de la IA. Sin embargo, es crucial que se establezcan mecanismos de supervisión y gobernanza efectivos para los modelos de IA de uso general utilizados en la Administración.
Es crucial que se establezcan mecanismos de supervisión y gobernanza efectivos para los modelos de IA
Además, es importante que la Administración Pública preste especial atención a la utilización de sistemas de IA en la prestación de servicios esenciales, como la asistencia sanitaria, la seguridad social y los servicios sociales, sin olvidar la trascendencia en materia de seguridad pública y defensa, siendo que la toma de decisiones automatizadas en estos ámbitos puede tener un impacto significativo en los derechos fundamentales de los ciudadanos, por lo que se torna en crucial clasificar correctamente estos sistemas de IA como de alto riesgo conforme a las definiciones y garantías previstas en el Reglamento, así como la de establecer toda una serie de mecanismos que vengan a garantizar el cumplimiento de los principios éticos y legales en su implementación.
Al fin y al cabo, todo parte de la definición de un «sistema de IA» entendido como máquina diseñada para funcionar con distintos niveles de autonomía con capacidad de inferir de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, y con capacidad para influir en entornos físicos o virtuales (18) , y, de ahí nace todo un mundo de oportunidad dentro de la Administración ante este momento trascendental de transformación que está suponiendo la democratización y la generalización del uso de los sistemas de IA, sin lugar a dudas, consideramos que la implementación en la Administración supondrá el inicio de una nueva era y estableciéndose una vacatio legis de 2 años una vez el Reglamento pase el trámite del Consejo y posterior publicación en el Diario Oficial de la Unión Europea, deberíamos haber aprendido de lo ocurrido en el año 2018 con la entrada en vigor del RGPD e iniciar la adaptación, formación y desarrollo de los sistemas de IA desde el primer momento.
VIII. Bibliografía
Consensus: https://consensus.app/
Web IA: https://openai.com/ Chatgpt.com
Propuesta de reglamento accesible en la Web: https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=celex%3A52021PC0206
Boletín Oficial del Estado: https://www.boe.es/legislacion/