- Administració oberta
Documental de TV3 “Desconnectats”: la inclusió digital, un dret fonamental
En el marc de la II Trobada de la Comunitat de Delegats de Protecció de Dades en Xarxa, organitzada per l’Autoritat Catalana de Protecció de Dades (APDCAT) el dijous 30 d’octubre, s’ha creat el grup de treball “Intel·ligència Artificial ètica i responsable”. Aquest grup està coordinat per l’AOC, concretament per la Delegada de Protecció de Dades de l’AOC, i Carme Callés, cap del Servei d’Innovació de l’AOC.
Aquesta proposta neix de la col·laboració entre l’APDCAT i l’AOC arran del debat que ambdues institucions van mantenir al Congrés de Govern Digital 2025 sobre la necessitat d’un estàndard públic de confiança en la IA que cobreixi tots els casos d’ús amb diferents nivells de risc. L’objectiu és combinar dues metodologies complementàries:
- el model FRIA de l’APDCAT, per avaluar l’impacte de la IA sobre els drets fonamentals, i
- els informes de transparència algorísmica de l’AOC, per garantir que aquests sistemes siguin comprensibles, explicables i accessibles per a la ciutadania.
Dins del marc de la Trobada, es va organitzar una sessió del grup en format taller participatiu, on els membres van treballar col·laborativament sobre el CANVAS del Moment Zero simplificat, una eina que permet identificar la proposta de valor, els resultats esperats i les primeres passes del projecte. Durant el taller, es va destacar la importància de combinar la transparència algorísmica i l’avaluació dels riscos ètics i jurídics per avançar cap a un model comú que reforci la confiança ciutadana en l’ús de la IA.
El grup va coincidir en la necessitat de desenvolupar una metodologia comuna, rigorosa però també aplicable a la pràctica, que integri les aportacions de perfils diversos —DPD, tècnics, juristes i responsables d’IA— i que serveixi de referència per a totes les administracions públiques que utilitzen sistemes algorítmics o d’automatització amb impacte sobre les persones.
Entre els resultats acordats destaquen:
- La definició d’una plantilla estandarditzada d’informe automàtic, amb flux de treball i una llista de comprovació, que donarà com a resultat final un informe de transparència algorísmica clar i entenedor per al públic no especialitzat, pensat per a la ciutadania i vinculat directament al servei públic que utilitza la IA.
- L’elaboració d’una guia de bones pràctiques i principis ètics basada en casos reals.
- El disseny de materials de formació i tallers pràctics per a professionals.
El taller va comptar amb la participació de professionals de diferents administracions i organismes com l’APDCAT, la Diputació de Barcelona, diversos ajuntaments (Girona, L’Hospitalet, Mollet, Barcelona, Mataró i Castelldefels), l’Idescat, la Universitat de Lleida, l’Escola Pia de Catalunya i l’Hospital Clínic de Barcelona.
Després de presentar les conclusions al plenari de la Trobada, noves entitats com CaixaBank i l’ICAB van manifestar la seva voluntat de sumar-se al projecte, valorant-ne l’enfocament pràctic i el potencial per construir conjuntament una IA ètica, transparent i centrada en les persones.
💡 Gràcies a totes les persones participants per les vostres aportacions i per fer d’aquesta primera sessió una trobada tan rica i inspiradora.
El grup ja ha començat a caminar, i us mantindrem informats dels seus avenços en aquest apassionant repte compartit!