- Administración abierta
Documental de TV3 “Desconectados”: la inclusión digital, un derecho fundamental
En el marco de la II Encuentro de la Comunidad de Delegados de Protección de Datos en Red, organizada por laAutoridad Catalana de Protección de Datos (APDCAT) el jueves 30 de octubre, se ha creado el grupo de trabajo "Inteligencia Artificial ética y responsable". Este grupo está coordinado por elAOC, concretamente por la Delegada de Protección de Datos de la AOC, y Carme Callés, jefe del Servicio de Innovación de la AOC.
Esta propuesta nace de la colaboración entre la APDCAT y la AOC a raíz del debate que ambas instituciones mantuvieron en el Congreso de Gobierno Digital 2025 sobre la necesidad de un estándar público de confianza en la IA que cubra todos los casos de uso con distintos niveles de riesgo. El objetivo es combinar dos metodologías complementarias:
- el modelo FRIA de la APDCAT, para evaluar el impacto de la IA sobre los derechos fundamentales, y
- los informes de transparencia algorítmica de la AOC, para garantizar que estos sistemas sean comprensibles, explicables y accesibles para la ciudadanía.
Dentro del marco del Encuentro, se organizó una sesión del grupo en formato taller participativo, donde los miembros trabajaron colaborativamente sobre el CAMBAS del Momento Cero simplificado, una herramienta que permite identificar la propuesta de valor, los resultados esperados y los primeros pasos del proyecto. Durante el taller, se destacó la importancia de combinar la transparencia algorítmica y la evaluación de los riesgos éticos y jurídicos para avanzar hacia un modelo común que refuerce la confianza ciudadana en el uso de la IA.
El grupo coincidió en la necesidad de desarrollar una metodología común, rigurosa pero también aplicable a la práctica, que integre las aportaciones de perfiles diversos —DPD, técnicos, juristas y responsables de IA— y que sirva de referencia para todas las administraciones públicas que utilizan sistemas algorítmicos o de automatización con impacto sobre las personas.
Entre los resultados acordados destacan:
- La definición de una plantilla estandarizada de informe automático, con flujo de trabajo y una lista de comprobación, que dará como resultado final un informe de transparencia algorítmica claro y entendedor para el público no especializado, pensado para la ciudadanía i vinculado directamente al servicio público que utiliza la IA.
- La elaboración de una guía de buenas prácticas y principios éticos basada en casos reales.
- El diseño de materiales de formación y talleres prácticos para profesionales.
El taller contó con la participación de profesionales de diferentes administraciones y organismos como elAPDCAT, la Diputación de Barcelona, varios ayuntamientos (Girona, L'Hospitalet, Mollet, Barcelona, Mataró y Castelldefels), elDescat, la Universitat de Lleida, laEscuela Pía de Cataluña y la Hospital Clínico de Barcelona.
Tras presentar las conclusiones en el plenario del Encuentro, nuevas entidades como CaixaBank y el ICAB manifestaron su voluntad de sumarse al proyecto, valorando su el enfoque práctico y el potencial para construir conjuntamente una IA ética, transparente y centrada en las personas.
???? Gracias a todas las personas participantes para sus aportaciones y para hacer de esta primera sesión un encuentro tan rico e inspirador.
El grupo ya ha empezado a andar, ¡y os mantendremos informados de sus avances en este apasionante reto compartido!