El pasado 29 de febrero, m4Social (el proyecto de innovación digital en el ámbito social de la Mesa de entidades del Tercer Sector Social de Cataluña) presentó, dentro del programa oficial del MWC 2024, el estudio 'Radar de algoritmos y procesos de decisión automatizada para el acceso a los derechos sociales de la ciudadanía en Cataluña', elaborado conjuntamente con KSNET.
Este estudio analiza los beneficios y riesgos de la utilización de la Inteligencia Artificial (IA) por parte de las entidades públicas, identificando 12 sistemas de IA implementados o en proceso de desarrollo por las administraciones públicas catalanas. De éstos, 3 sistemas de IA pertenecen a la Administración Abierta de Cataluña (AOC), y destacan no sólo por sus funcionalidades, sino también por el importante esfuerzo de transparència algorítmica que la AOC ha emprendido.
Sistemas de IA de la AOC incluidos en el radar
Los 3 sistemas de IA de la AOC incluidos en el Radar de algoritmos de servicios sociales de m4Social son:
- Chatbots conversacionales de la AOC: Este sistema ofrece automatización de tareas y resolución de consultas a través de chatbots conversacionales. Con acceso 24×7 a la información, respuesta inmediata y autorresolución de dudas y consultas sobre los servicios y trámites digitales, mejora significativamente la experiencia de usuario.
- Videoidentificación para obtener elidCat móvil: Este sistema facilita la autenticación remota de una persona mediante la videoidentificación. Con un alto nivel de seguridad y mejora accesibilidad, proporciona una forma fácil y cómoda de obtener una identidad digital para tramitar con la administración sin la necesidad de desplazamientos físicos.
- Automatización del informe de pobreza energética: Este sistema agiliza la detección y respuesta a casos de vulnerabilidad energética, mejorando la calidad de los servicios sociales. Con una estandarización del proceso y una reducción de la burocracia, asegura una respuesta rápida y precisa a las necesidades de los ciudadanos en situaciones de vulnerabilidad.
La transparència algorísmica de estos sistemas se manifiesta en la publicación de fichas detalladas que incluyen información sobre los datos utilizados para entrenar el algoritmo, el tipo de algoritmo, los objetivos del sistema, los beneficios alcanzados hasta ahora, los riesgos identificados y las medidas aplicadas en cada caso para mitigar los riesgos y garantizar el cumplimiento de los principios y derechos fundamentales de las personas.
A continuación, puede ver el detalle de las fichas de transparència algorítmica de estos 3 sistemas de IA:
La iniciativa de transparència algorítmica de la AOC
Las fichas de transparència algorísmica permiten a las personas comprender cómo funcionan los algoritmos de IA empleados en los servicios públicos y las implicaciones de su uso, y, además, mejoran la gobernanza de la IA y promueven una interacción más informada entre la ciudadanía y la administración.
Esta iniciativa de transparència algorítmica es una de las delgadaseres en Cataluña y en el Estado, y es la única que ya se ha implementado. Está inspirada en el registro de algoritmos de las ciudades de Ámsterdam y Helsinki, el estándar de transparència algorítmica del Reino Unido, así como las directrices proporcionadas por la OCDE y la Comisión Europea para una IA fiable. Además, es una de las actuaciones recomendables a las que se refiere la propuesta de reglamento europeo de IA para el caso de algoritmos de bajo riesgo o limitado (en el caso de sistemas de alto riesgo será una obligación).
A través de la iniciativa Transparència en el uso de algoritmos de inteligencia artificial, la AOC demuestra su compromiso con la transparència, la rendición de cuentas y la participación ciudadana, asegurando que las personas estén bien informadas y capacitadas para interactuar con los sistemas de IA que afectan a sus vidas. Esto no sólo promueve una mejor comprensión del funcionamiento de los algoritmos de IA, sino que también fomenta una relación más colaborativa y constructiva entre la administración y la ciudadanía en la creación e implementación de servicios más eficientes, seguros e inclusivos.
