Planteamiento
Si buscamos una definición oficial de IA, debemos quedarnos con la última propuesta de la OCDE (28 de noviembre de 2023), una vez superada la imprecisión del inciso de la primera propuesta, «sistemas de software diseñados por seres humanos», que se corresponde con la definición de la RAE de artificial (adj. «Hecho por mano o arte del hombre»), pero que nació prácticamente obsoleta en previsión de que dichos sistemas acaben siendo diseñados por las propias máquinas y no por las personas. Por eso es más precisa la definición final, que contempla esta posibilidad: «Un sistema de IA es un sistema basado en máquinas que, para un conjunto dado de objetivos explícitos o implícitos definidos por el ser humano, infiere, a partir de la entrada que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos reales o virtuales. Los diferentes sistemas de IA varían en sus niveles de autonomía y adaptabilidad después del despliegue». De forma similar, el art. 3.1 del Reglamento de Inteligencia Artificial (1) (en adelante, RIA), define «sistema de IA» como un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales. Y en la misma línea encontramos el art. 2 del Convenio Marco sobre Inteligencia Artificial del Consejo de Europa, por lo que sin duda nos encontramos ante una definición legal consolidada.
Una de las ventajas de la IA en la acción de gobierno es la mejora del proceso de toma de decisiones (ahora basadas en datos). Somos conscientes de que, por lo general, aún estamos lejos de este nivel. Pero incluso si aún no hemos implantado ningún sistema (más o menos avanzado) que incorpore IA, al menos tendremos, eso sí, la fuente de la que bebe la IA: los datos.
Cuando se abordan los riesgos de la IA, se suele indicar que un mal uso de la misma puede poner en peligro los principios de igualdad, objetividad y no discriminación. Pero debemos y podemos avanzar hacia exactamente lo contrario, y en esta labor, precisamente la IA será nuestra principal aliada. Desde el punto de vista de las relaciones administrativas (especialmente entre la Administración y la ciudadanía), estos principios son conceptos directamente relacionados con el de interés general. Y aquí entramos en el valor del dato.
En realidad, de los datos llevamos muchos años hablando, sobre todo de su protección. Pero antes de hablar de otros conceptos más recientes, como los relacionados con la transparencia del dato (big data y open data), la transparencia se limitaba a los documentos (ese es el modelo de la Ley de transparencia de 2013). Estamos entrando en la siguiente fase, pero ciertamente sin haber consolidado la anterior. El archivo electrónico sigue siendo el pariente pobre de la administración electrónica. Sin embargo, la gestión de documentos y datos (procedentes o no de dichos documentos) es fundamental en el funcionamiento del sector público. La automatización puede agilizar la entrada de datos, la clasificación de documentos y la extracción de información relevante. De hecho, automatización, interoperabilidad, firma electrónica y seguridad/confidencialidad no son sino ítems propios de esa primera fase de la administración electrónica, la de los trámites y documentos, que debería estar ya implantada. Como novedad, los sistemas de procesamiento automático del lenguaje natural (NLP) pueden interpretar documentos escritos y realizar tareas como la identificación de entidades, simplificando tareas que normalmente requerirían una cantidad significativa de tiempo humano.
La verdadera clave de la moderna gestión pública son los datos
Pero sin menospreciar ni un ápice la enorme importancia de la gestión documental, la verdadera clave de la moderna gestión pública son los datos. Si hablamos del dato en estado diamantino, sin pulir, en realidad estamos ante un viejo conocido (y activo) de la Administración. Pero ha pasado el tiempo. En esta nueva etapa, los datos son la materia prima con la que trabajan los sistemas de IA, de forma que la calidad y cantidad de dichos datos determinan en buena medida la precisión del resultado final, junto con una buena programación algorítmica.
Por tanto, en el ámbito de la IA es importante el procesamiento de datos. Este se define como el conjunto de técnicas y algoritmos utilizados para analizar, limpiar, transformar y visualizar grandes volúmenes de datos con el fin de extraer información útil y tomar decisiones basadas en evidencia. La toma de decisiones informadas, documentadas y completamente objetivas debe ser la máxima de una Administración que aspira a la excelencia. Esto nos lleva a un último concepto, la gobernanza de datos. Esta gobernanza de datos (en el nivel «micro», no en su otro sentido de gobernanza internacional de datos) es un método que se vale de la gestión de datos para garantizar que, en un organización donde que exista una alta calidad de datos y esta se mantenga durante todo su ciclo de vida, se implementen controles de esos datos que, debidamente trabajados, acaben respaldando las decisiones y los objetivos institucionales.
En la implantación de la IA y la aplicación del RIA, la Administración debe garantizar la transparencia y rendición de cuentas, es decir, que los sistemas de IA utilizados sean transparentes y explicables, especialmente cuando afecten a los derechos de los ciudadanos (artículo 13, transparencia y suministro de información a los usuarios; y artículo 52, «obligaciones de transparencia para determinados sistemas de IA»). Por descontado, también es obligatorio que los sistemas de IA cumplan con el RGPD y resto de normativa en materia de protección de datos (considerando 3 y artículo 10, «datos y gobernanza de datos»). Por lo demás, en el capítulo 2 del título III del RIA se establecen los requisitos legales que deben cumplir los sistemas de IA de alto riesgo en lo que respecta a los datos y su gobernanza, la documentación y el registro, la transparencia y la comunicación de información a los usuarios, la vigilancia humana, la solidez, la precisión y la seguridad.
Régimen jurídico
Se habla mucho del RIA, pero los datos también tienen su propio Reglamento. En efecto, del mismo modo que existe el AI Act también tenemos el Data Act. El Reglamento (UE) 2023/2854 del Parlamento Europeo y del Consejo, de 13 de diciembre de 2023, sobre normas armonizadas para un acceso justo a los datos y su utilización (2) , también conocido como la Reglamento de datos, entró en vigor el 11 de enero de 2024 y será aplicable en septiembre de 2025. La norma es un pilar clave de la estrategia europea de datos y contribuirá significativamente al objetivo de la Década Digital de avanzar en la transformación digital. Para obtener una explicación más detallada, consulte la Ley de datos explicada. Su aprobación viene a complementar el anterior Reglamento de Gobernanza de Datos (3) , o Data Governance Act (DGA), que fue el primer resultado de la estrategia europea de datos y entró en vigor en septiembre de 2023; y ambos estarían también relacionados con la Directiva de Datos Abiertos (4) . Si bien el DGA regula los procesos y estructuras que facilitan el intercambio voluntario de datos, el Data Act aclara quién puede crear valor a partir de los datos y bajo qué condiciones. En conjunto, estos dos actos normativos de la UE facilitan el acceso fiable y seguro a los datos, fomentando su uso en sectores económicos clave y ámbitos de interés público. También contribuirán a la creación de un mercado único de datos de la UE que beneficie en última instancia tanto a la economía europea como a la sociedad en general. En concreto, el Data Act permitirá una distribución equitativa del valor de los datos mediante el establecimiento de normas claras y justas para el acceso y la utilización de los datos dentro de la economía europea de los datos, una necesidad agravada por la creciente prevalencia del Internet de las Cosas (IoT). Gracias a esta regulación, los productos conectados deberán diseñarse y fabricarse de una manera que permita a los usuarios (empresas o consumidores) acceder, utilizar y compartir de forma fácil y segura los datos generados. Por último, el Data Act es un acto legislativo intersectorial (es decir, establece principios y directrices que se aplican a todos los sectores). Su aprobación no modifica las obligaciones de acceso a los datos existentes, sin embargo, cualquier legislación futura debe ajustarse a sus principios.
Aunque de manera tangencial a los efectos del presente artículo, puede ser de interés mencionar el régimen jurídico del uso público de los datos que obran en poder de las entidades privadas, ya que dichos datos pueden ser esenciales para que un organismo del sector público lleve a cabo una tarea de interés público. El capítulo V del mencionado Reglamento de Datos permite a los organismos del sector público acceder a dichos datos, en determinadas condiciones, cuando exista una necesidad excepcional. Este último se refiere a una situación imprevisible y limitada en el tiempo, en la que los datos en poder de una entidad privada son necesarios para el desempeño de la tarea de interés público, en particular para mejorar la toma de decisiones basada en pruebas. Las situaciones de necesidad excepcional incluyen tanto emergencias públicas (como catástrofes graves naturales o provocadas por el hombre, pandemias e incidentes de ciberseguridad) como situaciones no urgentes (por ejemplo, podrían utilizarse datos agregados y anonimizados de los sistemas GPS de los conductores para ayudar a optimizar los flujos de tráfico). En este sentido, el Reglamento de Datos garantizará que las autoridades públicas tengan acceso a dichos datos de manera oportuna y fiable, sin imponer una carga administrativa indebida a las empresas.
En cuanto al derecho interno, el art. 23 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, bajo la nomenclatura «Inteligencia Artificial y mecanismos de toma de decisión automatizados», que establece cuatro ítems diferenciados pero relacionados entre sí:
- • Eliminación de posibles sesgos: «En el marco de la Estrategia Nacional de Inteligencia Artificial, de la Carta de Derechos Digitales y de las iniciativas europeas en torno a la Inteligencia Artificial, las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente. En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio. Para lograr este fin, se promoverá la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio».
- • Transparencia by design: «Las administraciones públicas, en el marco de sus competencias en el ámbito de los algoritmos involucrados en procesos de toma de decisiones, priorizarán la transparencia en el diseño y la implementación y la capacidad de interpretación de las decisiones adoptadas por los mismos».
- • Inteligencia Artificial ética: «Las administraciones públicas y las empresas promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido».
- • Sello de calidad: «Se promoverá un sello de calidad de los algoritmos».
Sin embargo, a pesar de estos controles y garantías legales, nos hacemos la siguiente pregunta:
¿Estamos en manos de los algoritmos?
No. es la del sesgo de los algoritmos, sobre todo de «los que toman decisiones». Pero legalmente no las pueden tomar. El art. 22 del Reglamento general de protección de datos (RGPD) establece que «Todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar», mientras que el propio art. 14 del RIA lleva por título «supervisión humana». Lo que sí está admitiendo implícitamente la normativa es que una decisión se puede basar parcialmente en un tratamiento automatizado, por lo que los algoritmos pueden acabar influyendo en la decisión final del órgano, el cual por definición siempre es «humano» (unipersonal o colegiado, pero en todo caso compuesto por personas). Por eso es tan importante conocer a fondo los procesos de formación y adopción de las decisiones, estén implicados los algoritmos o no, y de hecho lo consideramos un derecho incluido en el de acceso a la información. En relación a esto último, quien suscribe es partidario de no limitar, salvo excepciones justificadas en un bien jurídico superior, el acceso a esta información argumentando (o más bien escudándose en) el «secreto requerido en procesos de toma de decisión» (art. 14.1.k Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno), inciso que sin duda no se redactó pensando en que la IA pudiera estar involucrada en la toma de estas decisiones.
Se deben implementar prácticas de anonimización, cifrado y gestión segura de datos
Por otra parte, sesgo (o bias en inglés) en IA se refiere a la supuesta tendencia sistemática de los algoritmos a tomar decisiones incorrectas o injustas debido a la utilización de los datos proporcionados en su entrenamiento que podrían estar sesgados de origen, lo que puede derivar en situaciones de discriminación o en la generación de resultados inexactos o incluso injustos en ciertas situaciones. Un programa que funciona bien no comete errores, pero puede partir de premisas erróneas. Los algoritmos de IA pueden heredar sesgos presentes en los datos con los que fueron entrenados. Esto puede desembocar en la toma de decisiones discriminatorias y no equitativas. Por ejemplo, si los datos de entrenamiento tienen sesgos culturales o de género, los algoritmos pueden replicar y amplificar estas desigualdades, incluyendo las que derivan de la brecha digital. Por eso se deben aplicar mecanismos correctores y de supervisión. Es esencial reconocer y corregir activamente el sesgo algorítmico para garantizar que los sistemas de IA no contribuyan a la discriminación. Además, en el sector público, donde se manejan datos sensibles de los ciudadanos, resulta fundamental establecer medidas rigurosas para proteger la privacidad. Por eso, bajo el estricto cumplimiento de la normativa sobre protección de datos, se deben implementar prácticas de anonimización, cifrado y gestión segura de datos para evitar la divulgación no autorizada de información personal.
Un tema interesante es la asignación de responsabilidades en casos de decisiones o resoluciones erróneas o sesgos algorítmicos. No hablamos de la recurribilidad de los actos administrativos, que es incuestionable, sino de determinar quién es responsable cuando un algoritmo no «toma» pero sí contribuye a que se tome una decisión incorrecta o perjudicial. Esa supervisión o última intervención humana de la que hablábamos es un arma de doble filo, y puede que no le guste a todo el mundo, pero es necesario establecer un marco de responsabilidad. Esto puede ser sencillo, cuando el propio procedimiento te indica el órgano competente, pero puede ser francamente complicado en otras ocasiones, salvo que se establezca por escrito utilizando la potestad reglamentaria y de auto organización que tienen la mayoría de las entidades públicas. Lo ideal sería establecer marcos legales más amplios que definan claramente el sistema de responsabilidades, estableciendo procesos para abordar situaciones problemáticas que, con seguridad, se van a producir.
Explicación del proceso
En nuestros «antiguos» proyectos de servicios inteligentes pusimos el acento en la sensorización de los espacios y las infraestructuras públicos a fin de recabar infinidad de datos con los que poder reconfigurar los servicios públicos. La IA propone una nueva dimensión de dichos servicios inédita hasta el presente, pues nos permite mejorar en calidad y eficiencia en base a los datos que ofrece el propio servicio junto la experiencia de usuario de los ciudadanos. A partir de ahí se inicia un proceso de filtrado de esos datos que se concretará finalmente en medidas y decisiones de gran calado, incluso estratégicas y no solo puntuales.
Con carácter general, los algoritmos de aprendizaje automático pueden analizar grandes conjuntos de datos y proporcionar insights valiosos para respaldar la toma de decisiones informadas. Pasó la época de la gestión por ocurrencias, porque si las decisiones no vienen respaldadas por los datos van a fracasar. En el ámbito de los gobiernos, esto puede aplicarse a la formulación de políticas, la asignación de recursos y la identificación de tendencias sociales. Más allá de su aplicación concreta a los servicios públicos (recogida de basura, aparcamiento, transporte público, prevención de incendios), la IA puede ayudar a prever y abordar problemas incipientes antes de que se conviertan en crisis. La capacidad de predicción de la IA no solo ayuda a anticiparse a los problemas mejorando la calidad de los servicios, sino también la de la toma de decisiones. La predicción es la nueva planificación. Y viene de los datos, debidamente obtenidos, procesados e interpretados. Además, el carácter incuestionablemente objetivo de los datos encaja por completo en el interés general, frente a las opiniones y ocurrencias subjetivas que en el mejor de los casos podían ser erróneas, pero, cuando eran intencionadas, también incurrían en desviación de poder. La IA tiene la capacidad de analizar grandes cantidades de datos (big data) de manera rápida y eficiente. En el sector público, esto se traduce en la capacidad de procesar vastos conjuntos de información de interés público (que no es igual a «publicables»), como datos demográficos, económicos y de salud. Los algoritmos de aprendizaje automático pueden identificar patrones y tendencias que podrían pasar desapercibidos en análisis manuales o más superficiales, proporcionando una visión más completa para respaldar decisiones con un fundamento sólido. En una frase: la Administración se rige por el principio de objetividad, y no hay nada más objetivo y veraz que los datos ciertos.
La Administración se rige por el principio de objetividad, y no hay nada más objetivo y veraz que los datos ciertos
Esta teoría responde a un proceso práctico por el cual obtenemos los datos y, aplicando una metodología, disponemos de ellos. En un momento dado los datos se convierten en información. Esta información, dentro de un contexto, nos aporta conocimiento práctico aplicable a un problema concreto. De este mapa de conocimiento podemos identificar los insights o «claves traducibles en acciones concretas». En ellas se puede basar no solo una decisión concreta, sino toda la estrategia de la organización. Por último, el término D2W (data to wisdom), que se puede traducir como «datos que llevan a la sabiduría» que es una funcionalidad de los sistemas de apoyo a la toma de decisiones a través de IA (machine learning).
Mostrar/Ocultar 
Fuente: Drawn by David Somerville, based on a two-panel version by Hugh McLeod
En resumen, dentro de contextos inciertos, una toma de decisiones efectiva y atinada deviene fundamental en la Administración, y en este sentido la IA ya está desempeñando un papel cada vez más importante en la mejora de este proceso en el sector público. Desde la formulación de políticas hasta la asignación de recursos, la IA ofrece capacidades analíticas avanzadas que pueden proporcionar información valiosa y apoyar en la toma de decisiones más informadas y documentadas, incluso en la definición planes integrales y estrategias completas, cuando el nivel alcanzado por la información se ha transformado en un conocimiento empírico muy cualificado, es decir, verdadera sabiduría, el peldaño más elevado de la inteligencia. En definitiva, una vez obtenidos los datos iniciales la IA es capaz de trabajar con ellos para pasar de las fases de encontrar relaciones, patrones y razones, a desarrollar «principios» aplicables a sucesos futuros; o, expresado de otra forma, nos permite analizar el pasado (comprender) para afrontar el futuro (emprender, aplicar, implantar).
Conclusión
El dato vence al relato. Sorprende la vehemencia con la que se aborda «el problema» del sesgo algorítmico cuando en el caso del sesgo humano «voluntario», el de tipo consciente e intencionado y orientado al interés particular, ni doscientos años de Código Penal ni diez desde la Ley de transparencia estatal y la aprobación de los primeros códigos éticos, han conseguido frenar estos abusos. Venimos de un modelo de gestión absolutamente politizado, manirroto, sesgado y, en ocasiones, corrupto. Tengamos esto en cuenta antes de poner el grito en el cielo la primera vez que un algoritmo «se equivoque». El dato, en cambio, nunca se equivocará. Lo hará quien no lo interprete correctamente.
Las Administraciones deben mantener registros detallados sobre el funcionamiento de sus sistemas de IA
En todo caso, si se utilizan sistemas de IA que influyen en la toma de decisiones administrativas (por ejemplo, en el reconocimiento o denegación de derechos, la gestión tributaria, la asignación de ayudas o en trámites burocráticos), las AAPP están obligadas a explicar cómo se tomaron esas decisiones y a asegurar que los ciudadanos pueden impugnar las que consideren incorrectas o simplemente perjudiciales para sus derechos e intereses legítimos. Esto es rendición de cuentas. Del mismo modo, las Administraciones deben mantener registros detallados sobre el funcionamiento de sus sistemas de IA, incluyendo cómo se entrenan y cómo operan, a fin de permitir con ello una supervisión y auditoría adecuadas.
Estamos a las puertas de un proceso de irrupción de la IA en el sector público que va a convertir en una mera anécdota la anteriormente llamada «transformación digital», de la cual en realidad forma parte (de hecho, es la fase actual de la misma). Aunque en el presente artículo nos henos centrado exclusivamente en su impacto en la mejora de la calidad del proceso de toma de decisiones, con esta tecnología también conseguiremos una mejora sin precedentes de los servicios públicos, situándolos muy cerca de la excelencia, al tiempo que puliremos y simplificaremos los procedimientos y otros procesos funcionales internos de acuerdo con los principios de eficacia y eficiencia. En este proceso debemos tener en cuenta, de forma simultánea a su implantación, la protección de derechos de las personas (especialmente los fundamentales). Las AAPP deben asegurarse de que los sistemas de IA no discriminan a ningún grupo de ciudadanos, ya sea por motivos de raza, género, edad, o cualquier otro factor. Esto es crucial en los servicios públicos universales, que son los que afectan a toda la población. En algunos casos, los ciudadanos tendrán que ser notificados si una decisión que les afecta ha sido tomada (normalmente será de forma indirecta) o influida por una IA, e incluso podrían tener derecho a consentir o rechazar el uso de IA en ciertos contextos.
En todo caso, las Administraciones Públicas también deben cumplir una serie de principios aplicables a su organización y actuación. En este sentido, la integración de la IA en la prestación de servicios públicos convierte a la administración titular de esos servicios en una entidad más transparente, eficiente y proactiva, y más cercana al ciudadano. Y si hablamos de cercanía hablamos de Ayuntamientos. Bienvenidos a la siguiente etapa, a los tiempos de lo que algunos denominan gobernanza algorítmica o de los datos, si bien a nosotros nos agrada más la expresión «gestión inteligente», quizá porque nos recuerda a aquellos proyectos Smart City, cuyo apellido, «city, ciudad», deberíamos ir sustituyendo definitivamente por municipio. Lo importante es que ni la gestión pública ni los servicios públicos volverán a basarse en decisiones caprichosas y poco técnicas. Lo celebramos los devotos de los principios de objetividad, igualdad e integridad; y del interés general.
La predicción es la nueva planificación
En conclusión, la IA tiene capacidad para predecir el futuro (en los términos analizados), y esto tiene un valor inconmensurable cuando intentamos gestionar de la mejor manera posible y orientar los servicios públicos, y todo ello con una probabilidad de error mínima. Dicho de otro modo: la predicción es la nueva planificación.