La entrada en vigor del Reglamento Europeo de Inteligencia Artificial (AI Act) marca el inicio de una nueva etapa para la adopción de la IA en las administraciones públicas.
A diferencia de otras tecnologías digitales, la inteligencia artificial cuenta con un marco normativo específico que establece obligaciones concretas para organizaciones públicas y privadas.
El objetivo de la normativa europea es garantizar que los sistemas de IA sean seguros, transparentes y respetuosos con los derechos fundamentales de las personas.
El AI Act clasifica los sistemas de inteligencia artificial según el nivel de riesgo que representan para la ciudadanía. Existen cuatro grandes categorías:
Riesgo inaceptable: Son aquellos usos prohibidos por considerarse incompatibles con los valores y derechos fundamentales de la Unión Europea.
Riesgo alto: Incluye sistemas que pueden afectar significativamente a las personas, especialmente en ámbitos como el empleo, la educación, los servicios esenciales o determinadas actuaciones administrativas.
Riesgo limitado: Sistemas que requieren ciertas medidas de transparencia para informar adecuadamente a los usuarios.
Riesgo mínimo: Aplicaciones con obligaciones regulatorias reducidas o inexistentes.
Muchas de las actividades desarrolladas por las administraciones públicas tienen impacto directo sobre derechos, prestaciones o servicios dirigidos a la ciudadanía. Por este motivo, una parte importante de las aplicaciones de IA utilizadas por organismos públicos podrían considerarse sistemas de alto riesgo. Por ejemplo, herramientas que participen en procesos relacionados con:
En estos casos, las exigencias regulatorias son significativamente mayores. Así nos lo contaba Luis Feijoo en una entrevista de nuestro podcast "Publigital" que grabamos durante nuestra asistencia al Congreso NovaGob 2025 en Barcelona.
Las organizaciones públicas deberán incorporar nuevas capacidades de gobernanza para garantizar el cumplimiento normativo. Entre las obligaciones más relevantes destacan:
La inteligencia artificial no podrá operar sin mecanismos adecuados de control por parte de personas responsables. Las decisiones con impacto relevante sobre ciudadanos deberán contar con supervisión humana efectiva.
Los organismos deberán identificar, documentar y mitigar los riesgos asociados al uso de sistemas de IA. Esto implica realizar evaluaciones periódicas y mantener mecanismos de seguimiento continuo.
Los sistemas utilizados deberán apoyarse en datos de calidad, representativos y adecuados para evitar errores o sesgos discriminatorios.
Las administraciones tendrán que informar de manera clara cuando determinados servicios o procesos incorporen sistemas de inteligencia artificial. La transparencia se convertirá en un elemento fundamental para preservar la confianza ciudadana.
Será necesario mantener evidencias sobre el funcionamiento de los sistemas, los criterios aplicados y las medidas de control adoptadas.
Los sistemas deberán demostrar niveles adecuados de fiabilidad, resiliencia y protección frente a usos indebidos o vulnerabilidades.
El AI Act no debe interpretarse únicamente como una obligación legal. También representa una oportunidad para profesionalizar la adopción de la inteligencia artificial dentro del sector público.
Las administraciones que incorporen desde el inicio principios de gobernanza, transparencia y control estarán mejor preparadas para desplegar soluciones escalables, sostenibles y alineadas con las expectativas de la ciudadanía.
En este sentido, el verdadero reto no será únicamente cumplir la norma, sino construir organizaciones capaces de aprovechar todo el potencial de la IA de forma responsable.
España ha sido tradicionalmente uno de los países europeos más avanzados en administración electrónica. Durante años, administraciones estatales, autonómicas y locales han impulsado procesos de digitalización que han permitido realizar trámites online, reducir el uso del papel y facilitar la relación entre ciudadanos y administraciones. Sin embargo, la inteligencia artificial representa una nueva etapa dentro de este proceso de transformación.
La digitalización permitió convertir procesos analógicos en procesos digitales. La inteligencia artificial añade una nueva capacidad al utilizar los datos y la información disponibles para generar conocimiento, automatizar tareas complejas, identificar patrones y ofrecer apoyo a la toma de decisiones.
Es el paso de una Administración digital a una Administración inteligente.
Esto no significa sustituir a las personas. Significa dotar a profesionales y organizaciones de nuevas herramientas para gestionar mejor el enorme volumen de información que generan las administraciones y prestar servicios más eficaces a la ciudadanía.