Lo scorso 29 febbraio m4Social (il progetto di innovazione digitale in ambito sociale del Tavolo degli Enti del Terzo Settore Sociale della Catalogna) ha presentato, all'interno del programma ufficiale del MWC 2024, lo studio 'Radar di algoritmi e processi decisionali automatizzati per l'accesso ai diritti sociali dei cittadini in Catalogna', prodotto in collaborazione con KSNET.
Questo studio analizza i benefici e i rischi dell’uso dell’Intelligenza Artificiale (AI) da parte degli enti pubblici, identificando 12 sistemi di IA implementati o in fase di sviluppo da parte delle pubbliche amministrazioni catalane. Di questi, 3 I sistemi di intelligenza artificiale appartengono all'Amministrazione Aperta della Catalogna (AOC) e si distinguono non solo per le loro funzionalità, ma anche per il notevole sforzo di transparència algoritmo che l'AOC ha intrapreso.
Sistemi AI AOC inclusi nel radar
I 3 sistemi AI AOC inclusi nel radar dell'algoritmo dei servizi sociali di m4Social sono:
- Chatbot conversazionali AOC: questo sistema offre l'automazione delle attività e la risoluzione delle query tramite chatbot conversazionali. Con l'accesso alle informazioni 24 ore su 7, XNUMX giorni su XNUMX, la risposta immediata e l'auto-risoluzione di dubbi e richieste su servizi e procedure digitali, migliora significativamente l'esperienza dell'utente.
- Identificazione video per ottenere l'idCat Mobile: Questo sistema facilita l'autenticazione remota di una persona attraverso la videoidentificazione. Con un elevato livello di sicurezza e una migliore accessibilità, fornisce un modo semplice e conveniente per ottenere un'identità digitale per trattare con l'amministrazione senza la necessità di spostamenti fisici.
- Automazione del rapporto sulla povertà energetica: Questo sistema accelera l'individuazione e la risposta ai casi di vulnerabilità energetica, migliorando la qualità dei servizi sociali. Standardizzando il processo e riducendo la burocrazia, garantisce una risposta rapida e precisa alle esigenze dei cittadini in situazioni vulnerabili.
La transparència la natura algoritmica di questi sistemi si manifesta nella pubblicazione di file dettagliati comprese informazioni sui dati utilizzati per addestrare l'algoritmo, il tipo di algoritmo, gli obiettivi del sistema, i benefici ottenuti fino ad oggi, i rischi identificati e le misure applicate in ciascun caso per mitigare i rischi e garantire il rispetto dei principi e dei principi fondamentali diritti delle persone.
Di seguito puoi vedere i dettagli dei file di transparència algoritmico di questi 3 sistemi di intelligenza artificiale:
L'iniziativa di transparència Algoritmo AOC
I file di transparència L'apprendimento algoritmico consente alle persone di comprendere il funzionamento degli algoritmi di intelligenza artificiale utilizzati nei servizi pubblici e le implicazioni del loro utilizzo e, inoltre, migliora la governance dell'intelligenza artificiale e promuove un'interazione più informata tra cittadini e amministrazione.
Questa iniziativa di transparència algoritmico è uno dei migliorieres in Catalogna e nello Stato, ed è l'unica che è già stata implementata. Si ispira all'algoritmo di registrazione delle città di Amsterdam e Helsinki, lo standard di transparència algoritmico del Regno Unito, nonché le linee guida fornite dall'OCSE e dalla Commissione Europea per un'IA affidabile. Inoltre, è una delle azioni raccomandate nella proposta di regolamento europeo sull'IA per il caso di algoritmi a basso o limitato rischio (nel caso di sistemi ad alto rischio sarà un obbligo).
Attraverso l'iniziativa Transparència nell'uso di algoritmi di intelligenza artificiale, l'AOC dimostra il suo impegno nei confronti della transparència, responsabilità e partecipazione dei cittadini, garantendo che le persone siano ben informate e autorizzate a interagire con i sistemi di intelligenza artificiale che influenzano le loro vite. Ciò non solo promuove una migliore comprensione del funzionamento degli algoritmi di intelligenza artificiale, ma favorisce anche un rapporto più collaborativo e costruttivo tra amministrazione e cittadini nella creazione e implementazione di servizi più efficienti, sicuri e inclusivi.
