Los jefes de servicio de innovación de la AOC Carme Callés y David Pastor, han participado en las jornadas formativas sobre inteligencia artificial (IA) y protección de datos, dirigidas a personal de la Generalitat y del mundo local.
Las jornadas, organizadas por la Autoridad Catalana de Protección de Datos (APDCAT) con la colaboración de la Escuela de Administración Pública de Cataluña (EAPC), tienen por objetivo guiar al personal público en la aplicación adecuada del Reglamento Europeo de Inteligencia Artificial (RIA) y en su integración con la normativa de protección de datos.
En su intervención, la AOC ha expuesto cómo se está desplegando una inteligencia artificial útil, ética y con garantías, especialmente pensada para el sector público local y siempre con el foco puesto en la protección de los derechos fundamentales. Este compromiso lo hemos traducido en una herramienta concreta: los informes de transparència algorítmica, que estamos estandarizando para ofrecerlos como servicio al mundo local.
Durante la sesión, se han compartido criterios generales a tener en cuenta para garantizar la protección efectiva del derecho a la privacidad, a la protección de datos personales ya la seguridad, especialmente en el despliegue de sistemas de IA.
También se han presentado ejemplos concretos de aplicación de estos criterios en servicios públicos:
- Chatbots basados en IA generativa, con garantías y minimización de riesgos
- Automatización del Informe de Riesgo de Exclusión Residencial (IRER), para proteger derechos sociales
- Anonimización de actos de pleno con Procesamiento de Lenguaje Natural (PLN), Modelos de Lenguaje Grande (MLG) y supervisión humana
- Videoidentificación para obtener elidCAT móvil, con supervisión e impacto real
La mayor parte de estos casos disponen de su informe de transparència algorítmica, con una explicación clara de los riesgos, de las medidas aplicadas para eliminarlos o minimizarlos, y de los beneficios tanto para la ciudadanía como para las administraciones públicas.
👉 Puede consultar todos los informes de transparència al web de la AOC.
