Desde el 2 de agosto de 2026, han entrado en vigor las obligaciones de transparència previstas en el artículo 50 del Reglamento Europeo de Inteligencia Artificial (RIA). El objetivo es sencillo: que las personas puedan saber cuándo están interactuando con un sistema de IA o cuándo un contenido ha sido generado o manipulado mediante esta tecnología.
En la práctica, esto significa que algunos sistemas de IA tendrán que informar claramente cuando una persona está interactuando con una inteligencia artificial, como los chatbots. También será necesario identificar determinados contenidos generados o manipulados con IA, especialmente los llamados deepfakes y algunos contenidos destinados a informar al público sobre cuestiones de interés general cuando hayan sido generados o modificados sustancialmente mediante IA. Además, los proveedores de sistemas que generen imágenes, audio, vídeo u otros contenidos sintéticos tendrán que incorporar mecanismos técnicos para que éstos puedan ser detectados como generados o modificados mediante IA.
Estas medidas no pretenden limitar el uso de la inteligencia artificial, sino reforzar la confianza, reducir el riesgo de engaño y facilitar que la ciudadanía pueda interactuar con estas tecnologías de forma informada.
En la AOC hace tiempo que trabajamos en esta dirección
Para la AOC, la transparència en el uso de la IA no es una novedad. Ya llevamos años impulsando iniciativas para garantizar un uso responsable, explicable y alineado con los derechos de las personas. Esta línea de trabajo se concretó en 2023 con la puesta en marcha de la iniciativa de transparència algorítmica, mediante la cual publicamos información comprensible sobre los sistemas de IA y otras automatizaciones relevantes que utilizamos en nuestros servicios.
Además, los servicios de la AOC dirigidos directamente a la ciudadanía que incorporan inteligencia artificial, ya informan explícitamente de que se está interactuando con una IA desde el primer momento. Es el caso, por ejemplo, de los chatbots con IA generativa de apoyo a la ciudadanía, del asistente GuIA del portal de soporte de la AOC o del servicio de videoidentificación para obtener elidCAT Móvil. Este enfoque coincide plenamente con las exigencias que establece el Reglamento europeo.
La transparència también forma parte de la gobernanza
Las nuevas obligaciones europeas refuerzan la importancia de disponer de mecanismos de gobernanza adecuados. Por este motivo, la AOC sigue avanzando en su modelo interno de gobernanza de la IA, incorporando progresivamente nuevos instrumentos y procedimientos para garantizar una adopción responsable de la inteligencia artificial.
Cuando un sistema de IA participa en la prestación de un servicio público, en la tramitación de un procedimiento administrativo o puede tener un impacto relevante sobre los derechos, interessos o situaciones de las personas, valoramos la elaboración de un informe de transparència algorítmica (infoTRAL), que hacemos público como mecanismo de transparència y rendición de cuentas y que permite explicar de forma clara la finalidad del sistema, su funcionamiento, los riesgos identificados y las garantías adoptadas.
En cambio, para sistemas con una finalidad exclusivamente interna de apoyo al personal y sin incidencia directa sobre la ciudadanía o sobre decisiones que afecten a las personas, la AOC está desplegando un modelo más ligero de gobernanza basado en fichas de gobernanza de IA, pensadas para documentar y supervisar el uso responsable de estas herramientas de forma proporcionada.
¿Y qué ocurre con los proveedores?
La transparència no es sólo una responsabilidad de las administraciones. El Reglamento también impone obligaciones a los proveedores de sistemas de IA. En este sentido, la AOC ya incorpora progresivamente requisitos, garantías y cláusulas específicas relacionadas con la inteligencia artificial en sus procesos de contratación, con el objetivo de exigir a los proveedores el cumplimiento de la normativa aplicable, incluidas las obligaciones de transparència previstas por el Reglamento europeo.
La Comisión Europea ha dado recientemente un paso más publicando una primera lista de más de 180 organizaciones adheridas al Código de Buenas Prácticas sobre transparència de los contenidos generados por IA, una iniciativa que busca facilitar la aplicación efectiva de estas nuevas obligaciones.
Un paso más hacia una IA de confianza
La inteligencia artificial está transformando los servicios públicos y ofrece oportunidades muy importantes para mejorar su eficiencia, accesibilidad y calidad. Pero esta transformación sólo será sostenible si va acompañada de transparència, supervisión y confianza.
La entrada en vigor del artículo 50 del Reglamento europeo de IA representa un nuevo paso en esa dirección. En la AOC continuaremos trabajando para que la innovación tecnológica, la transparència y la protección de los derechos de las personas avancen de la mano.
