Regulación de la IA en el sector público
La entrada en vigor del Reglamento Europeo de Inteligencia Artificial (AI Act) marca el inicio de una nueva etapa para la adopción de la IA en las administraciones públicas.
A diferencia de otras tecnologías digitales, la inteligencia artificial cuenta con un marco normativo específico que establece obligaciones concretas para organizaciones públicas y privadas.
El objetivo de la normativa europea es garantizar que los sistemas de IA sean seguros, transparentes y respetuosos con los derechos fundamentales de las personas.
Un enfoque basado en el riesgo
El AI Act clasifica los sistemas de inteligencia artificial según el nivel de riesgo que representan para la ciudadanía. Existen cuatro grandes categorías:
-
Riesgo inaceptable: Son aquellos usos prohibidos por considerarse incompatibles con los valores y derechos fundamentales de la Unión Europea.
-
Riesgo alto: Incluye sistemas que pueden afectar significativamente a las personas, especialmente en ámbitos como el empleo, la educación, los servicios esenciales o determinadas actuaciones administrativas.
-
Riesgo limitado: Sistemas que requieren ciertas medidas de transparencia para informar adecuadamente a los usuarios.
-
Riesgo mínimo: Aplicaciones con obligaciones regulatorias reducidas o inexistentes.
¿Por qué afecta especialmente al sector público?
Muchas de las actividades desarrolladas por las administraciones públicas tienen impacto directo sobre derechos, prestaciones o servicios dirigidos a la ciudadanía. Por este motivo, una parte importante de las aplicaciones de IA utilizadas por organismos públicos podrían considerarse sistemas de alto riesgo. Por ejemplo, herramientas que participen en procesos relacionados con:
- Selección y gestión de personal.
- Acceso a ayudas o prestaciones.
- Evaluación de solicitudes administrativas.
- Procesos educativos públicos.
- Servicios esenciales para la ciudadanía.
- Gestión de infraestructuras críticas.
En estos casos, las exigencias regulatorias son significativamente mayores. Así nos lo contaba Luis Feijoo en una entrevista de nuestro podcast "Publigital" que grabamos durante nuestra asistencia al Congreso NovaGob 2025 en Barcelona.
Principales obligaciones para las administraciones públicas
Las organizaciones públicas deberán incorporar nuevas capacidades de gobernanza para garantizar el cumplimiento normativo. Entre las obligaciones más relevantes destacan:
-
Supervisión humana
La inteligencia artificial no podrá operar sin mecanismos adecuados de control por parte de personas responsables. Las decisiones con impacto relevante sobre ciudadanos deberán contar con supervisión humana efectiva.
-
Gestión de riesgos
Los organismos deberán identificar, documentar y mitigar los riesgos asociados al uso de sistemas de IA. Esto implica realizar evaluaciones periódicas y mantener mecanismos de seguimiento continuo.
-
Calidad de los datos
Los sistemas utilizados deberán apoyarse en datos de calidad, representativos y adecuados para evitar errores o sesgos discriminatorios.
-
Transparencia
Las administraciones tendrán que informar de manera clara cuando determinados servicios o procesos incorporen sistemas de inteligencia artificial. La transparencia se convertirá en un elemento fundamental para preservar la confianza ciudadana.
-
Registro y documentación
Será necesario mantener evidencias sobre el funcionamiento de los sistemas, los criterios aplicados y las medidas de control adoptadas.
-
Ciberseguridad y robustez técnica
Los sistemas deberán demostrar niveles adecuados de fiabilidad, resiliencia y protección frente a usos indebidos o vulnerabilidades.
El AI Act no debe interpretarse únicamente como una obligación legal. También representa una oportunidad para profesionalizar la adopción de la inteligencia artificial dentro del sector público.
Las administraciones que incorporen desde el inicio principios de gobernanza, transparencia y control estarán mejor preparadas para desplegar soluciones escalables, sostenibles y alineadas con las expectativas de la ciudadanía.
En este sentido, el verdadero reto no será únicamente cumplir la norma, sino construir organizaciones capaces de aprovechar todo el potencial de la IA de forma responsable.
De la administración electrónica a la administración inteligente con la IA
España ha sido tradicionalmente uno de los países europeos más avanzados en administración electrónica. Durante años, administraciones estatales, autonómicas y locales han impulsado procesos de digitalización que han permitido realizar trámites online, reducir el uso del papel y facilitar la relación entre ciudadanos y administraciones. Sin embargo, la inteligencia artificial representa una nueva etapa dentro de este proceso de transformación.
La digitalización permitió convertir procesos analógicos en procesos digitales. La inteligencia artificial añade una nueva capacidad al utilizar los datos y la información disponibles para generar conocimiento, automatizar tareas complejas, identificar patrones y ofrecer apoyo a la toma de decisiones.
Es el paso de una Administración digital a una Administración inteligente.
Esto no significa sustituir a las personas. Significa dotar a profesionales y organizaciones de nuevas herramientas para gestionar mejor el enorme volumen de información que generan las administraciones y prestar servicios más eficaces a la ciudadanía.
