Los jefes de servicio de innovación de la AOC, Carme Callés i david pastor, han participado en las II Jornadas formativas sobre inteligencia artificial (IA) y protección de datos personales, organizadas por la Autoridad Catalana de Protección de Datos (APDCAT) con la colaboración de la Escuela de Administración Pública de Cataluña (EAPC).
La sesión dedicada a "La IA en el mundo local" se celebró el11 de noviembre, en el tercer día de formación, con el objetivo de compartir buenas prácticas para desplegar una inteligencia artificial útil, ética y con garantías en los servicios públicos locales.
En su intervención, Carme Callés abrió la sesión presentando el compromiso de la AOC por un uso responsable y transparente de la IA. Contó la metodología de los informes de transparència algorítmica, concebidos para ayudar a la ciudadanía a entender cómo funcionan los algoritmos de IA, cuál es su propósito y cómo pueden afectarles, así como para fomentar la participación, asegurar una transparència estandarizada y comparable y cumplir con las obligaciones legales de transparència.
También expuso cómo, durante la elaboración de cada informe, es gestionan los riesgos sobre los derechos fundamentales y los principios éticos, y cómo este trabajo se traduce en un documento claro y comprensible que describe las medidas aplicadas para minimizar los riesgos. Su intervención concluyó con el ejemplo delinforme de transparència algorítmica dels chatbots con IA generativa de la AOC.
Por su parte, David Pastor profundizó en los criterios prácticos para garantizar la privacidad, la seguridad y la protección de datos en el despliegue de sistemas de IA, y presentó dos casos de uso destacados:
- Automatización de los informes de pobreza energética (IRER), un sistema basado en reglas programadas —no de IA— pero con impacto potencial sobre derechos sociales, que ya dispone de su informe de transparència algorítmica publicado en el Portal de Transparència.
- Anonimización de las actas de pleno municipales, un sistema de IA de riesgo mínimo que transforma documentos para evitar divulgar datos personales. Actualmente se encuentra en fase piloto con 15 ayuntamientos, y ya se ha empezado a trabajar con la metodología de los informes de transparència algorítmica, un proceso iterativo y colaborativo que implica a todos los actores que intervienen en el diseño, desarrollo e implantación del servicio.
Desde junio de 2025, la AOC ha dado pasos significativos en materia de ética y transparència algorítmica:
- Creación del grupo de trabajo de IA ética y responsable, dentro de la comunidad DPD en Red (iniciativa conjunta APDCAT + AOC), para definir un estándar público de confianza en la IA que integre el modelo FRIA catalán (evaluación de impacto de la IA sobre los derechos fundamentales) y la transparència práctica de los informes algorítmicos orientados a la ciudadanía. El grupo se puso en marcha el pasado 30 de octubre.
- Integración de las fichas de transparència algorítmica de la AOC en El Registro de sistemas de IA y otros algoritmos de la Generalitat, para ofrecer una visión global y coherente de los usos de IA en el sector público catalán.
Estos avances refuerzan el compromiso de la AOC con una IA centrada en las personas, que haga compatibles la innovación, la protección de los derechos y la confianza ciudadana en la administración digital.
👉 Puede consultar la presentación (PDF) y el vídeo de la sesión (comienza en 1:54:16).
