Els caps de servei d’innovació de l’AOC, Carme Callés i David Pastor, han participat en les II Jornades formatives sobre intel·ligència artificial (IA) i protecció de dades personals, organitzades per l’Autoritat Catalana de Protecció de Dades (APDCAT) amb la col·laboració de l’Escola d’Administració Pública de Catalunya (EAPC).
La sessió dedicada a “La IA al món local” es va celebrar l’11 de novembre, dins el tercer dia de formació, amb l’objectiu de compartir bones pràctiques per desplegar una intel·ligència artificial útil, ètica i amb garanties en els serveis públics locals.
En la seva intervenció, Carme Callés va obrir la sessió presentant el compromís de l’AOC per un ús responsable i transparent de la IA. Va explicar la metodologia dels informes de transparència algorísmica, concebuts per ajudar la ciutadania a entendre com funcionen els algorismes d’IA, quin és el seu propòsit i com poden afectar-los, així com per fomentar la participació, assegurar una transparència estandarditzada i comparable i complir amb les obligacions legals de transparència.
També va exposar com, durant l’elaboració de cada informe, es gestionen els riscos sobre els drets fonamentals i els principis ètics, i com aquest treball es tradueïx en un document clar i entenedor que descriu les mesures aplicades per minimitzar els riscos. La seva intervenció va concloure amb l’exemple de l’informe de transparència algorísmica dels xatbots amb IA generativa de l’AOC.
Per la seva banda, David Pastor va aprofundir en els criteris pràctics per garantir la privacitat, la seguretat i la protecció de dades en el desplegament de sistemes d’IA, i va presentar dos casos d’ús destacats:
- Automatització dels informes de pobresa energètica (IRER), un sistema basat en regles programades —no d’IA— però amb impacte potencial sobre drets socials, que ja disposa del seu informe de transparència algorísmica publicat al Portal de Transparència.
- Anonimització de les actes de ple municipals, un sistema d’IA de risc mínim que transforma documents per evitar divulgar dades personals. Actualment es troba en fase pilot amb 15 ajuntaments, i ja s’ha començat a treballar amb la metodologia dels informes de transparència algorísmica, un procés iteratiu i col·laboratiu que implica tots els actors que intervenen en el disseny, desenvolupament i implantació del servei.
Des del mes de juny de 2025, l’AOC ha fet passos significatius en matèria d’ètica i transparència algorísmica:
- Creació del grup de treball d’IA ètica i responsable, dins la comunitat DPD en Xarxa (iniciativa conjunta APDCAT + AOC), per definir un estàndard públic de confiança en la IA que integri el model FRIA català (avaluació d’impacte de la IA sobre els drets fonamentals) i la transparència pràctica dels informes algorísmics orientats a la ciutadania. El grup es va posar en marxa el 30 d’octubre.
- Integració de les fitxes de transparència algorísmica de l’AOC en el Registre de sistemes d’IA i altres algorismes de la Generalitat, per oferir una visió global i coherent dels usos d’IA al sector públic català.
Aquests avenços reforcen el compromís de l’AOC amb una IA centrada en les persones, que faci compatibles la innovació, la protecció dels drets i la confiança ciutadana en l’administració digital.
👉 Podeu consultar la presentació (PDF) i el vídeo de la sessió (comença en 1:54:16).
