El passat 29 de febrer, m4Social (el projecte d’innovació digital en l’àmbit social de la Taula d’entitats del Tercer Sector Social de Catalunya) va presentar, dins del programa oficial del MWC 2024, l’estudi ‘Radar d’algoritmes i processos de decisió automatitzada per a l’accés als drets socials de la ciutadania a Catalunya‘, elaborat conjuntament amb KSNET.
Aquest estudi analitza els beneficis i riscos de la utilització de la Intel·ligència Artificial (IA) per part de les entitats públiques, identificant 12 sistemes d’IA implementats o en procés de desenvolupament per les administracions públiques catalanes. D’aquests, 3 sistemes d’IA pertanyen a l’Administració Oberta de Catalunya (AOC), i destaquen no només per les seves funcionalitats, sinó també per l’important esforç de transparència algorísmica que l’AOC ha emprès.
Sistemes d’IA de l’AOC inclosos al radar
Els 3 sistemes d’IA de l’AOC inclosos en el Radar d’algorismes de serveis socials de m4Social són:
- Xatbots conversacionals de l’AOC: Aquest sistema ofereix automatització de tasques i resolució de consultes a través de xatbots conversacionals. Amb accés 24×7 a la informació, resposta immediata i autoresolució de dubtes i consultes sobre els serveis i tràmits digitals, millora significativament l’experiència d’usuari.
- Videoidentificació per obtenir l’idCat Mòbil: Aquest sistema facilita l’autenticació remota d’una persona mitjançant la videoidentificació. Amb un alt nivell de seguretat i accessibilitat millorada, proporciona una forma fàcil i còmoda d’obtenir una identitat digital per tramitar amb l’administració sense la necessitat de desplaçaments físics.
- Automatització de l’informe de pobresa energètica: Aquest sistema agilitza la detecció i resposta a casos de vulnerabilitat energètica, millorant la qualitat dels serveis socials. Amb una estandardització del procés i una reducció de la burocràcia, assegura una resposta ràpida i precisa a les necessitats dels ciutadans en situacions de vulnerabilitat.
La transparència algorísmica d’aquests sistemes es manifesta en la publicació de fitxes detallades que inclouen informació sobre les dades utilitzades per entrenar l’algorisme, el tipus d’algorisme, els objectius del sistema, els beneficis assolits fins ara, els riscos identificats i les mesures aplicades en cada cas per mitigar els riscos i garantir el compliment dels principis i drets fonamentals de les persones.
A continuació, podeu veure el detall de les fitxes de transparència algorísmica d’aquests 3 sistemes d’IA:
La iniciativa de transparència algorísmica de l’AOC
Les fitxes de transparència algorísmica permeten a les persones comprendre com funcionen els algorismes d’IA emprats als serveis públics i les implicacions del seu ús, i, a més, milloren la governança de la IA i promouen una interacció més informada entre la ciutadania i l’administració.
Aquesta iniciativa de transparència algorísmica és una de les primeres a Catalunya i a l’Estat, i és l’única que ja s’ha implementat. Està inspirada en el registre d’algorismes de les ciutats d’Amsterdam i Hèlsinki, l’estàndard de transparència algorísmica del Regne Unit, així com les directrius proporcionades per l’OCDE i la Comissió Europea per a una IA fiable. A més, és una de les actuacions recomanables a què es refereix la proposta de reglament europeu d’IA per al cas d’algorismes de baix risc o limitat (en el cas de sistemes d’alt risc serà una obligació).
A través de la iniciativa Transparència en l’ús d’algorismes d’intel·ligència artificial, l’AOC demostra el seu compromís amb la transparència, la rendició de comptes i la participació ciutadana, assegurant que les persones estiguin ben informades i capacitades per interactuar amb els sistemes d’IA que afecten les seves vides. Això no només promou una millor comprensió del funcionament dels algorismes d’IA, sinó que també fomenta una relació més col·laborativa i constructiva entre l’administració i la ciutadania en la creació i implementació de serveis més eficients, segurs i inclusius.
