Des del 2 d’agost de 2026, han entrat en vigor les obligacions de transparència previstes a l’article 50 del Reglament Europeu d’Intel·ligència Artificial (RIA). L’objectiu és senzill: que les persones puguin saber quan estan interactuant amb un sistema d’IA o quan un contingut ha estat generat o manipulat mitjançant aquesta tecnologia.
A la pràctica, això significa que alguns sistemes d’IA hauran d’informar clarament quan una persona està interactuant amb una intel·ligència artificial, com ara els xatbots. També caldrà identificar determinats continguts generats o manipulats amb IA, especialment els anomenats deepfakes i alguns continguts destinats a informar el públic sobre qüestions d’interès general quan hagin estat generats o modificats substancialment mitjançant IA. A més, els proveïdors de sistemes que generen imatges, àudio, vídeo o altres continguts sintètics hauran d’incorporar mecanismes tècnics perquè aquests puguin ser detectats com a generats o modificats mitjançant IA.
Aquestes mesures no pretenen limitar l’ús de la intel·ligència artificial, sinó reforçar la confiança, reduir el risc d’engany i facilitar que la ciutadania pugui interactuar amb aquestes tecnologies de manera informada.
A l’AOC fa temps que treballem en aquesta direcció
Per a l’AOC, la transparència en l’ús de la IA no és una novetat. Ja fa anys que impulsem iniciatives per garantir un ús responsable, explicable i alineat amb els drets de les persones. Aquesta línia de treball es va concretar el 2023 amb la posada en marxa de la iniciativa de transparència algorísmica, mitjançant la qual publiquem informació comprensible sobre els sistemes d’IA i altres automatitzacions rellevants que utilitzem en els nostres serveis.
A més, els serveis de l’AOC adreçats directament a la ciutadania que incorporen intel·ligència artificial ja informen explícitament que s’està interactuant amb una IA des del primer moment. És el cas, per exemple, dels xatbots amb IA generativa de suport a la ciutadania, de l’assistent GuIA del portal de suport de l’AOC o del servei de videoidentificació per obtenir l’idCAT Mòbil. Aquest enfocament coincideix plenament amb les exigències que ara estableix el Reglament europeu.
La transparència també forma part de la governança
Les noves obligacions europees reforcen la importància de disposar de mecanismes de governança adequats. Per aquest motiu, l’AOC continua avançant en el seu model intern de governança de la IA, incorporant progressivament nous instruments i procediments per garantir una adopció responsable de la intel·ligència artificial.
Quan un sistema d’IA participa en la prestació d’un servei públic, en la tramitació d’un procediment administratiu o pot tenir un impacte rellevant sobre els drets, interessos o situacions de les persones, valorem l’elaboració d’un informe de transparència algorísmica (infoTRAL), que fem públic com a mecanisme de transparència i rendició de comptes i que permet explicar de manera clara la finalitat del sistema, el seu funcionament, els riscos identificats i les garanties adoptades.
En canvi, per a sistemes amb una finalitat exclusivament interna de suport al personal i sense incidència directa sobre la ciutadania o sobre decisions que afectin les persones, l’AOC està desplegant un model més lleuger de governança basat en fitxes de governança d’IA, pensades per documentar i supervisar l’ús responsable d’aquestes eines de forma proporcionada.
I què passa amb els proveïdors?
La transparència no és només una responsabilitat de les administracions. El Reglament també imposa obligacions als proveïdors de sistemes d’IA. En aquest sentit, l’AOC ja incorpora progressivament requisits, garanties i clàusules específiques relacionades amb la intel·ligència artificial en els seus processos de contractació, amb l’objectiu d’exigir als proveïdors el compliment de la normativa aplicable, incloses les obligacions de transparència previstes pel Reglament europeu.
La Comissió Europea ha fet recentment un pas més publicant una primera llista de més de 180 organitzacions adherides al Codi de Bones Pràctiques sobre transparència dels continguts generats per IA, una iniciativa que busca facilitar l’aplicació efectiva d’aquestes noves obligacions.
Un pas més cap a una IA de confiança
La intel·ligència artificial està transformant els serveis públics i ofereix oportunitats molt importants per millorar-ne l’eficiència, l’accessibilitat i la qualitat. Però aquesta transformació només serà sostenible si va acompanyada de transparència, supervisió i confiança.
L’entrada en vigor de l’article 50 del Reglament europeu d’IA representa un nou pas en aquesta direcció. A l’AOC continuarem treballant perquè la innovació tecnològica, la transparència i la protecció dels drets de les persones avancin de la mà.
