L'AOC crea un registro per la trasparenza degli algoritmi di intelligenza artificiale all'avanguardia dello Stato

La trasparenza algoritmica è un argomento di crescente importanza nella nostra società, dal momento che il algoritmi di intelligenza artificiale (AI). sono sempre più utilizzati per prendere decisioni che riguardano la vita delle persone.

Per garantire la trasparenza algoritmica, è essenziale che gli algoritmi AI possano essere compresi dalle persone che li utilizzano e li influenzano, in modo che possano capire come è stata raggiunta una determinata decisione e perché tale decisione è stata presa; così come gli algoritmi possono essere rivisti per rilevare errori o distorsioni non intenzionali e migliorarne l'accuratezza.

La trasparenza è pertanto un requisito essenziale per raggiungere e mantenere la fiducia degli utenti nei sistemi di IA e una questione cruciale per promuovere uno sviluppo e un uso responsabili, sicuri e socialmente equi di questa tecnologia.

Per soddisfare il requisito di trasparenza dei sistemi di IA utilizzati nelle pubbliche amministrazioni la normativa vigente non prevede, oggi, alcun meccanismo o strumento giuridico "concreto"; anche se il Regolamento AI che è in preparazione da parte del Consiglio dell'UE indica, come prima azione raccomandata, quella di “registrare e documentare” i sistemi di AI utilizzati dalle organizzazioni che possono essere soggette a tale regolamento. Il resto della normativa parla di incoraggiare l'implementazione di "meccanismi" affinché gli algoritmi coinvolti nel processo decisionale tengano conto di criteri di trasparenza, senza specificarne alcuno; o di pubblicare sul sito l'elenco degli atti amministrativi automatizzati (AAA) con le informazioni sulle regole applicate e sul loro funzionamento.

Cosa stiamo facendo per garantire la trasparenza degli algoritmi AI nell'AOC?

Come mezzo per raggiungere la trasparenza nell'uso degli algoritmi di AI, l'AOC propone la pubblicazione sul Portale della Trasparenza di fogli esplicativi per ciascun algoritmo utilizzato.

Questa è un'iniziativa leader di trasparenza algoritmica nel settore pubblico della Catalogna e dello Stato.

Questa iniziativa vuole essere uno strumento per:

  • Fornire agli utenti una panoramica dei sistemi algoritmici utilizzati nell'AOC, comprese le informazioni sulle caratteristiche e sui risultati del loro funzionamento, i rischi e le distorsioni che sono stati identificati e le misure che sono state applicate per correggerli e l'organismo dinanzi al quale particolare le decisioni possono essere appellate o il suo funzionamento generale può essere impugnato.
  • Rendi facile per tutti esprimere la propria opinione e partecipare alla creazione di algoritmi incentrati sulle persone.

Così, per ciascuno Algoritmo AI impiegati nei servizi di amministrazione digitale dell'AOC, faremo una scheda informativa con informazioni generali sullo scopo e sul funzionamento dell'algoritmo, quindi forniremo informazioni tecniche più dettagliate. Ci sarà anche la possibilità di inviare feedback per aiutare il team di sviluppo a rendere gli algoritmi che utilizziamo migliori, più equi e più responsabili.

Di seguito è possibile consultare il primo file dell'iniziativa pubblicato sul nostro Portale Trasparenza. Questa è la scheda per i chatbot conversazionali che applichiamo ai servizi VALid, idCat Certificat e, presto, allo stesso Transparency Portal.

Vuoi scoprire i segreti dietro gli algoritmi AI dei chatbot conversazionali di AOC?

maggiori informazioni 

Il registro di trasparenza degli algoritmi di intelligenza artificiale si è ispirato principalmente alle eccellenti esperienze pratiche dei registri cittadiniAmsterdam  io di Helsinki  che erano leader in Europa.