- Amministrazione aperta
- Congresso del governo digitale
Congresso del Governo Digitale: lo spazio di connessione strategica tra amministrazione e imprese
Lo scorso 29 febbraio m4Social (il progetto di innovazione digitale in ambito sociale del Tavolo degli Enti del Terzo Settore Sociale della Catalogna) ha presentato, all'interno del programma ufficiale del MWC 2024, lo studio 'Radar di algoritmi e processi decisionali automatizzati per l'accesso ai diritti sociali dei cittadini in Catalogna', prodotto in collaborazione con KSNET.
Questo studio analizza i benefici e i rischi dell’uso dell’Intelligenza Artificiale (AI) da parte degli enti pubblici, identificando 12 sistemi di IA implementati o in fase di sviluppo da parte delle pubbliche amministrazioni catalane. Di questi, 3 I sistemi di intelligenza artificiale appartengono all'Amministrazione Aperta della Catalogna (AOC) e si distinguono non solo per le loro funzionalità, ma anche per l'importante sforzo di trasparenza algoritmica intrapreso dall'AOC.
I 3 sistemi AI AOC inclusi nel radar dell'algoritmo dei servizi sociali di m4Social sono:
La trasparenza algoritmica di questi sistemi si manifesta nella pubblicazione di dossier dettagliati comprese informazioni sui dati utilizzati per addestrare l'algoritmo, il tipo di algoritmo, gli obiettivi del sistema, i benefici ottenuti fino ad oggi, i rischi identificati e le misure applicate in ciascun caso per mitigare i rischi e garantire il rispetto dei principi e dei principi fondamentali diritti delle persone.
Di seguito potete vedere i dettagli dei fogli di trasparenza algoritmica per questi 3 sistemi di IA:
I token di trasparenza algoritmica consentono alle persone di comprendere come funzionano gli algoritmi di intelligenza artificiale impiegati nei servizi pubblici e le implicazioni del loro utilizzo, oltre a migliorare la governance dell’intelligenza artificiale e promuovere un’interazione più informata tra cittadini e governo.
Questa iniziativa di trasparenza algoritmica è una delle prime in Catalogna e nello Stato, ed è l’unica già implementata. Si ispira al registro degli algoritmi delle città di Amsterdam e Helsinki, allo standard di trasparenza algoritmica del Regno Unito, nonché alle linee guida fornite dall’OCSE e dalla Commissione Europea per un’IA affidabile. Inoltre, rientra tra le azioni consigliate di cui alla proposta di regolamento europeo sull’IA per il caso di algoritmi a basso o limitato rischio (nel caso di sistemi ad alto rischio sarà un obbligo).
Attraverso l'iniziativa Trasparenza nell'uso degli algoritmi di intelligenza artificiale, L'AOC dimostra il suo impegno per la trasparenza, la responsabilità e la partecipazione dei cittadini, garantendo che le persone siano ben informate e abbiano la possibilità di interagire con i sistemi di intelligenza artificiale che influenzano le loro vite. Ciò non solo promuove una migliore comprensione del funzionamento degli algoritmi di intelligenza artificiale, ma favorisce anche un rapporto più collaborativo e costruttivo tra amministrazione e cittadini nella creazione e implementazione di servizi più efficienti, sicuri e inclusivi.