Lo scorso 29 febbraio m4Social (il progetto di innovazione digitale in ambito sociale del Tavolo degli Enti del Terzo Settore Sociale della Catalogna) ha presentato, all'interno del programma ufficiale del MWC 2024, lo studio 'Radar di algoritmi e processi decisionali automatizzati per l'accesso ai diritti sociali dei cittadini in Catalogna', prodotto in collaborazione con KSNET.
Questo studio analizza i benefici e i rischi dell’uso dell’Intelligenza Artificiale (AI) da parte degli enti pubblici, identificando 12 sistemi di IA implementati o in fase di sviluppo da parte delle pubbliche amministrazioni catalane. Di questi, 3 I sistemi di intelligenza artificiale appartengono all'Amministrazione Aperta della Catalogna (AOC) e si distinguono non solo per le loro funzionalità, ma anche per l'importante sforzo di trasparenza algoritmica intrapreso dall'AOC.
Sistemi AI AOC inclusi nel radar
I 3 sistemi AI AOC inclusi nel radar dell'algoritmo dei servizi sociali di m4Social sono:
- Chatbot conversazionali AOC: questo sistema offre l'automazione delle attività e la risoluzione delle query tramite chatbot conversazionali. Con l'accesso alle informazioni 24 ore su 7, XNUMX giorni su XNUMX, la risposta immediata e l'auto-risoluzione di dubbi e richieste su servizi e procedure digitali, migliora significativamente l'esperienza dell'utente.
- Identificazione video per ottenere il Mobile idCat: Questo sistema facilita l'autenticazione remota di una persona attraverso la videoidentificazione. Con un elevato livello di sicurezza e una migliore accessibilità, fornisce un modo semplice e conveniente per ottenere un'identità digitale per trattare con l'amministrazione senza la necessità di spostamenti fisici.
- Automazione del rapporto sulla povertà energetica: Questo sistema accelera l'individuazione e la risposta ai casi di vulnerabilità energetica, migliorando la qualità dei servizi sociali. Standardizzando il processo e riducendo la burocrazia, garantisce una risposta rapida e precisa alle esigenze dei cittadini in situazioni vulnerabili.
La trasparenza algoritmica di questi sistemi si manifesta nella pubblicazione di dossier dettagliati comprese informazioni sui dati utilizzati per addestrare l'algoritmo, il tipo di algoritmo, gli obiettivi del sistema, i benefici ottenuti fino ad oggi, i rischi identificati e le misure applicate in ciascun caso per mitigare i rischi e garantire il rispetto dei principi e dei principi fondamentali diritti delle persone.
Di seguito potete vedere i dettagli dei fogli di trasparenza algoritmica per questi 3 sistemi di IA:
L'iniziativa di trasparenza algoritmica dell'AOC
I token di trasparenza algoritmica consentono alle persone di comprendere come funzionano gli algoritmi di intelligenza artificiale impiegati nei servizi pubblici e le implicazioni del loro utilizzo, oltre a migliorare la governance dell’intelligenza artificiale e promuovere un’interazione più informata tra cittadini e governo.
Questa iniziativa di trasparenza algoritmica è una delle prime in Catalogna e nello Stato, ed è l’unica già implementata. Si ispira al registro degli algoritmi delle città di Amsterdam e Helsinki, allo standard di trasparenza algoritmica del Regno Unito, nonché alle linee guida fornite dall’OCSE e dalla Commissione Europea per un’IA affidabile. Inoltre, rientra tra le azioni consigliate di cui alla proposta di regolamento europeo sull’IA per il caso di algoritmi a basso o limitato rischio (nel caso di sistemi ad alto rischio sarà un obbligo).
Attraverso l'iniziativa Trasparenza nell'uso degli algoritmi di intelligenza artificiale, L'AOC dimostra il suo impegno per la trasparenza, la responsabilità e la partecipazione dei cittadini, garantendo che le persone siano ben informate e abbiano la possibilità di interagire con i sistemi di intelligenza artificiale che influenzano le loro vite. Ciò non solo promuove una migliore comprensione del funzionamento degli algoritmi di intelligenza artificiale, ma favorisce anche un rapporto più collaborativo e costruttivo tra amministrazione e cittadini nella creazione e implementazione di servizi più efficienti, sicuri e inclusivi.
