El Gobierno ha publicado el nuevo Registro de sistemas de inteligencia artificial y otros algoritmos, una nueva herramienta consultable a través de internet que recoge y organiza información clave sobre los sistemas de inteligencia artificial (IA) utilizados por la Generalitat y su sector público, priorizando a aquellos que tienen un impacto directo en la ciudadanía y sus derechos fundamentales. Este inventario permite a la ciudadanía acceder de forma clara y sencilla a datos sobre cómo se utilizan estas tecnologías, fomentando así la confianza y la transparència.
La herramienta incluye tanto sistemas de IA como algoritmos deterministas que tengan un impacto significativo en las decisiones de la Administración y en los derechos de la ciudadanía. Los sistemas pueden ser desarrollados internamente, adquiridos o suministrados por entidades externas. La información detallada de cada sistema, tales como su finalidad, funcionamiento, datos utilizados y riesgos potenciales, está disponible por consulta pública. Actualmente, el registro tiene ya un total de 31 sistemas publicados, cada uno con funciones clave que refuerzan la eficiencia en diversos ámbitos de la Administración pública.
Los informes de la AOC
La AOC ya disponía deinformes de transparència algorítmica orientados a la ciudadanía, elaborados en el marco de nuestra iniciativa de transparència. Estos informes explican de forma comprensible cómo funcionan los sistemas, qué datos utilizan —ya sea para el entrenamiento de los modelos de IA o como datos de entrada en el caso de sistemas deterministas— y qué impacto pueden tener en las personas.
Ahora, hemos adaptado esta información al formato estandarizado del Registro de la Generalitat, que es más conciso y combina objetivos de transparència hacia la ciudadanía con la función de inventario tecnológico para la Administración.
A continuación, presentamos un breve resumen de los tres sistemas de la AOC ya publicados en el registro:
Sistema basado en IA generativa que da respuestas inmediatas, contextuales y fiables a las dudas de la ciudadanía. Se utiliza en varios servicios digitales comunes de la AOC, tales como:
- Válido (asiste a la ciudadanía en las consultas más frecuentes durante el proceso de identificación en la página de VALid)
- idCAT móvil (ayuda a resolver dudas sobre obtención, uso y renovación delidCat Móvil)
- idCAT Certificado (ofrece apoyo con la obtención, uso y renovación delidCat Certificado)
- e-NOTUM (resuelve dudas y apoya en la gestión de notificaciones electrónicas)
- Representa (ayuda a la ciudadanía y empresas a resolver las dudas sobre las representaciones y apoderamientos)
- e.FACT (apoya en la elaboración y gestión de las facturas electrónicas)
Estos servicios digitales son utilizados por la mayoría de administraciones catalanas, lo que multiplica el impacto positivo del bot en la atención a la ciudadanía.
Este sistema utiliza técnicas de verificación biométrica para permitir que la ciudadanía acredite su identidad de forma remota y segura, facilitando la obtención delidCAT móvil.
El idCAT Móvil es el servicio de autenticación de referencia en Cataluña, y se caracteriza por ser seguro, gratuito, sin caducidad, sin contraseñas, sin necesidad de instalar aplicaciones y operativo en cualquier dispositivo, para personas mayores de 16 años.
El sistema de videoidentificación refuerza la seguridad del registro on-line y mejora la experiencia de usuario, haciéndola más sencilla y confiable.
Servicio basado en RPA (Automatización Robótica de Procesos) que automatiza la generación de los informes municipales de vulnerabilidad energética previstos en la Ley 24/2015, de medidas urgentes para afrontar la emergencia en el ámbito de la vivienda y la pobreza energética. Integra datos de los servicios de interoperabilidad Via Oberta y de los sistemas sociales municipales para estandarizar y acelerar el proceso. Este servicio no incorpora IA, pero se ha elaborado igualmente un informe de transparència y una ficha del registro por la sensibilidad del caso de uso y su impacto directo en personas en situación de vulnerabilidad.
