Repte

Com podem ajudar els ajuntaments a anonimitzar de manera àgil i fiable les actes dels plens municipals per protegir les dades personals, facilitar-ne la publicació i garantir el compliment de la normativa?

Context i problemàtica

L’AOC presta serveis digitals per a les administracions locals que sovint impliquen la publicació de documents administratius amb contingut potencialment sensible. En aquest context, l’anonimització de dades personals abans de la publicació és un element clau per garantir el compliment de la normativa de protecció de dades i reduir els riscos per a la privacitat de les persones.

Un dels casos més representatius són les actes dels plens municipals, que els ens locals han de publicar de manera proactiva als portals de transparència, d’acord amb la Llei 19/2014, de transparència, accés a la informació pública i bon govern. Només l’any 2024 es van publicar més de 8.000 actes de ple al portal de transparència de l’AOC.

Aquestes actes poden contenir dades personals que no són objecte de publicació, com ara noms de persones físiques, DNI, adreces, correus electrònics o dades bancàries. La seva revisió requereix distingir quina informació s’ha de mantenir pública i quina s’ha d’ocultar per protegir els drets de les persones afectades. Aquesta decisió no depèn només del tipus de dada, sinó també del context en què apareix dins del document. Es tracta d’una tasca que exigeix temps, coneixement de la normativa i un criteri jurídic acurat.

A tall d’exemple, el nom d’un càrrec electe en una acta de ple no requereix anonimització, mentre que el nom d’una persona afectada en una resolució sancionadora sí. De la mateixa manera, una data de naixement és una dada personal que habitualment s’ha d’anonimitzar, mentre que la data d’una actuació administrativa forma part de la informació que s’ha de mantenir pública.

Quan aquest procés es realitza de forma manual, augmenta la càrrega de treball dels equips responsables i també el risc que alguna dada personal quedi exposada de manera involuntària, amb les conseqüències que això pot comportar en termes de compliment del Reglament general de protecció de dades (RGPD). A més, quan es detecta que s’ha publicat indegudament una dada personal, cal retirar el document, corregir-lo i publicar-ne una nova versió, un procediment lent que l’AOC ha de gestionar pràcticament cada setmana

En aquest context, l’AOC va plantejar-se el 2025 si les tecnologies d’intel·ligència artificial podien donar suport a aquest procés, ajudant els treballadors municipals a identificar les dades personals que cal anonimitzar i mantenint sempre la supervisió humana sobre la decisió final.

Solució proposada

Per donar resposta a aquesta problemàtica, l’AOC ha impulsat una prova de concepte (PoC) per validar si la IA generativa pot automatitzar l’anonimització de les actes dels plens municipals abans de la seva publicació al portal de transparència.

La iniciativa explora com combinar la capacitat de la IA generativa per interpretar el context dels documents amb la supervisió humana, amb l’objectiu de reduir la càrrega de treball associada a aquest procés, minimitzar els riscos de divulgació de dades personals i garantir el compliment de la normativa de protecció de dades.

L’objectiu no és substituir el criteri jurídic de les administracions, sinó oferir una eina de suport que detecti automàticament les dades personals i proposi una anonimització que posteriorment sigui validada per una persona abans de publicar el document. Aquest enfocament permet aprofitar els avantatges de la IA mantenint el control humà sobre la decisió final.

La prova de concepte s’ha dissenyat com un sistema de risc mínim: la IA no pren decisions automatitzades sobre les persones ni afecta els seus drets, sinó que actua únicament com a eina de suport per transformar documents abans de la seva publicació.

En què consisteix la solució?

La prova de concepte consisteix en una plataforma web al núvol que utilitza models d’IA generativa per identificar i anonimitzar dades personals contingudes en actes de ple.

A diferència dels sistemes tradicionals basats únicament en patrons predefinits, la plataforma interpreta el context del document per distingir entre la informació que s’ha de mantenir pública —com la relativa als càrrecs electes o a l’activitat institucional— i aquella que s’ha de protegir perquè correspon a dades personals. Aquesta capacitat és especialment rellevant perquè la decisió d’anonimitzar una informació depèn sovint del context en què apareix i no únicament del tipus de dada.

La solució incorpora diversos mecanismes per garantir la qualitat i la fiabilitat del procés:

  • Detecció contextual de dades personals, basada en IA generativa.
  • Llistes blanques, que permeten excloure determinats termes de l’anonimització per evitar una sobreanonimització.
  • Supervisió humana (“human-in-the-loop”), de manera que el sistema només proposa les anonimitzacions i és l’usuari qui les revisa i valida abans de publicar el document.
  • Traçabilitat i explicabilitat, registrant els criteris aplicats en cada anonimització perquè el procés sigui revisable i auditable.

Com funciona?

El procés d’anonimització s’estructura en quatre passos senzills:

  1. L’usuari carrega el document (PDF o DOCX) a la plataforma.
  2. Selecciona els criteris d’anonimització que vol aplicar (noms i cognoms, DNI, adreces, dates, telèfons, comptes bancaris, etc.) i inicia el procés.
  3. El sistema analitza el document, interpreta el context de la informació i genera una proposta de document anonimitzat. Per fer-ho, identifica les dades personals que, d’acord amb els criteris seleccionats, s’han d’anonimitzar i les oculta mitjançant màscares.
  4. L’usuari revisa el resultat, accepta o modifica les màscares generades, pot crear-ne de noves si detecta dades personals que no s’han anonimitzat i, finalment, descarrega el document preparat per a la seva publicació.

Resultats de la prova de concepte

La prova de concepte s’ha validat amb 52 documents aportats per 9 ajuntaments, complementats amb múltiples proves internes realitzades per l’AOC durant el desenvolupament de la solució. El procés de validació ha permès avaluar tant la qualitat de l’anonimització com el comportament de la plataforma en situacions reals d’ús.

Els resultats obtinguts confirmen la viabilitat tècnica i funcional de la proposta, així com l’adequació del model basat en la combinació d’intel·ligència artificial generativa i supervisió humana. En concret, la validació ha permès constatar que:

  • La plataforma assoleix una precisió global del 96%, és a dir, quan el sistema identifica una dada per anonimitzar, habitualment ho fa de manera correcta, reduint la necessitat de revisar falses deteccions
  • L’indicador global F1, que combina la precisió i la cobertura de la detecció de dades personals en una única mètrica de qualitat, supera el 90%. En les darreres iteracions de la PoC s’han assolit nivells globals de qualitat superiors al 95%.
  • La combinació d’IA i supervisió humana és un model eficaç per reduir l’esforç manual mantenint les garanties necessàries abans de publicar els documents.

La prova de concepte també ha servit per identificar els principals reptes que cal abordar abans d’un eventual desplegament en producció:

  • Incrementar la cobertura de detecció (Recall) per reduir els casos en què alguna dada personal pot quedar sense anonimitzar, especialment en documents amb estructures complexes o poc homogènies.
  • Evolucionar l’arquitectura de la solució per millorar-ne l’escalabilitat, el rendiment i l’eficiència, fent possible un servei compartit sostenible per a un gran nombre d’administracions.
  • Continuar entrenant i refinant els models a partir dels resultats obtinguts i de noves validacions amb documents reals, incorporant el coneixement generat durant la revisió dels usuaris.

En aquest sentit, la PoC també ha permès definir com ha d’evolucionar l’arquitectura de la solució. La versió actual resol tot el procés d’anonimització mitjançant un únic model d’IA generativa de gran capacitat, una aproximació adequada per validar la viabilitat de la solució però poc eficient per a un desplegament a gran escala. L’evolució prevista separa la identificació de dades personals de la decisió sobre quines s’han d’anonimitzar segons el context, de manera que cada fase pugui utilitzar els models d’IA més adequats i eficients. Aquesta evolució permetrà millorar l’escalabilitat, el rendiment i la sostenibilitat del futur servei compartit.

En conjunt, la prova de concepte confirma que aquest enfocament és viable i proporciona una base sòlida per continuar evolucionant la solució cap a un futur desplegament productiu.

Recursos i col·laboració

La prova de concepte s’ha desenvolupat conjuntament entre l’AOC, responsable del lideratge funcional del projecte; l’empresa tecnològica OMNIOS, encarregada del desenvolupament de la plataforma i de l’anàlisi dels resultats; i 9 ajuntaments, que han aportat documents reals per validar la solució en un entorn representatiu d’ús.

Des del seu disseny, la plataforma s’ha concebut d’acord amb els principis de seguretat, transparència, traçabilitat i supervisió humana propis dels sistemes d’IA aplicats al sector públic, amb l’objectiu d’explorar un model d’anonimització assistida per intel·ligència artificial que pugui evolucionar cap a un futur servei compartit per a les administracions locals.

Valor per als ens locals

La prova de concepte posa de manifest el potencial de la IA generativa per donar suport a processos administratius que requereixen una elevada càrrega de revisió documental i un criteri jurídic acurat. Si la solució evoluciona cap a un servei compartit, podria aportar beneficis significatius als ens locals:

  • Reducció del risc de divulgació accidental de dades personals, minimitzant la probabilitat de publicar informació que no ha de ser accessible públicament.
  • Estalvi de temps i millora de l’eficiència, automatitzant bona part del procés d’identificació de dades personals i reduint la revisió manual.
  • Major homogeneïtat en l’aplicació dels criteris d’anonimització, afavorint un tractament més coherent entre administracions.
  • Més garanties de traçabilitat i auditoria, gràcies al registre de les anonimitzacions efectuades i dels criteris aplicats.
  • Capacitat de millora continua de la solució, incorporant les aportacions dels usuaris i els avenços en els models d’IA cada vegada més potents.

Conclusions

La prova de concepte ha permès validar la viabilitat tècnica i funcional d’una eina basada en intel·ligència artificial generativa per donar suport a l’anonimització de les actes dels plens municipals abans de la seva publicació.

Els resultats obtinguts mostren que la combinació de detecció automàtica i supervisió humana és un enfocament adequat per reduir la càrrega de treball dels ens locals i disminuir el risc de divulgació de dades personals, mantenint les garanties necessàries en un procés d’aquestes característiques.

La PoC també ha permès identificar els principals àmbits de millora abans d’un eventual desplegament en producció, especialment en la detecció de determinades tipologies de dades personals en documents complexos i en la integració de la solució amb els serveis de l’AOC. La PoC proporciona una base sòlida per continuar evolucionant el projecte i valorar la seva transformació en un futur servei compartit per a les administracions locals.

Estat del projecte

PoC realitzat i validat el potencial. Està en procés de contractació la continuïtat de la iniciativa amb la realització d’un pilot amb un abast més ample.

Més informació

Blog de l’AOC:

Presentacions i articles:

Vídeos: