L'AOC promuove un modello di rendicontazione di transparència dei principali algoritmi di intelligenza artificiale nello Stato
condividi
Questo post ha più di 1 anno. Il contenuto potrebbe non essere aggiornato.
La transparència L'algoritmica è un argomento di crescente importanza nella nostra società, poiché algoritmi di intelligenza artificiale (AI). sono sempre più utilizzati per prendere decisioni che riguardano la vita delle persone.
Per garantire la transparència algoritmico, è essenziale che gli algoritmi di intelligenza artificiale possano essere compresi dalle persone che li utilizzano e li influenzano, in modo che possano capire come è stata presa una determinata decisione e perché è stata presa; inoltre, è fondamentale che gli algoritmi possano essere rivisti per rilevare errori o distorsioni involontarie e migliorarne l'accuratezza.
La transparència Si tratta pertanto di un requisito essenziale per ottenere e mantenere la fiducia degli utenti nei sistemi di intelligenza artificiale e di una questione cruciale per promuovere lo sviluppo e l'uso responsabile, sicuro ed equo di questa tecnologia nei confronti della società.
Per soddisfare il requisito di transparència dei sistemi di intelligenza artificiale utilizzati nelle pubbliche amministrazioni Le normative vigenti non stabiliscono attualmente alcun meccanismo o strumento giuridico "concreto"; sebbene il Regolamento sull'IA in fase di elaborazione da parte del Consiglio dell'UE indichi, come prima azione raccomandata, quella di "registrare e documentare" i sistemi di IA utilizzati dalle organizzazioni che potrebbero essere soggette a tale regolamentazione. Il resto delle normative parla di incoraggiare l'implementazione di "meccanismi" affinché gli algoritmi coinvolti nel processo decisionale tengano conto di criteri di transparència, senza specificarne alcuna; oppure pubblicare sul proprio sito web l'elenco delle azioni amministrative automatizzate (AAA) con informazioni sulle regole applicate e sul loro funzionamento.
Cosa facciamo per garantire la transparència degli algoritmi di intelligenza artificiale nell'AOC?
Come mezzo per raggiungere l' transparència nell'uso degli algoritmi di intelligenza artificiale, l'AOC propone la pubblicazione sul Portale di Transparència di carte comprensibili per ogni algoritmo utilizzato.
Si tratta di un'iniziativa pionieristica di transparència algoritmico nel settore pubblico della Catalogna e dello Stato.
Questa iniziativa vuole essere uno strumento per:
Fornire agli utenti una panoramica dei sistemi algoritmici utilizzati nell'AOC, comprese le informazioni sulle caratteristiche e sui risultati del loro funzionamento, i rischi e le distorsioni che sono stati identificati e le misure che sono state applicate per correggerli e l'organismo dinanzi al quale particolare le decisioni possono essere appellate o il suo funzionamento generale può essere impugnato.
Rendi facile per tutti esprimere la propria opinione e partecipare alla creazione di algoritmi incentrati sulle persone.
Così, per ciascuno Algoritmo AI impiegati nei servizi di amministrazione digitale dell'AOC, faremo una scheda informativa con informazioni generali sullo scopo e sul funzionamento dell'algoritmo, quindi forniremo informazioni tecniche più dettagliate. Ci sarà anche la possibilità di inviare feedback per aiutare il team di sviluppo a rendere gli algoritmi che utilizziamo migliori, più equi e più responsabili.
Di seguito potete consultare la prima scheda dell'iniziativa pubblicata sul nostro Portale. TransparènciaQuesto è il profilo dei chatbot conversazionali che applichiamo ai servizi VALid, idCat Certificato e, prossimamente, sul Portale stesso Transparència.
Vuoi scoprire i segreti dietro gli algoritmi AI dei chatbot conversazionali di AOC?
Il registro di transparència degli algoritmi di intelligenza artificiale è stato principalmente ispirato dalle eccellenti esperienze pratiche dei registri cittadini inAmsterdam o di Helsinki chi era responsabileeres un'Europa.
L'Amministrazione Aperta della Catalogna (AOC) ha raggiunto uno dei traguardi più significativi degli ultimi anni in termini di sicurezza informatica e fiducia digitale: 22 dei suoi...
Pubblicare una sessione plenaria sul portale di transparència Può sembrare un processo semplice. Ma prima di renderlo pubblico, deve essere esaminato e i dati personali anonimizzati...
All'AOC continuiamo a lavorare per promuovere la trasformazione digitale delle amministrazioni pubbliche catalane e rafforzare le nostre capacità organizzative e tecnologiche. Per questo motivo, abbiamo...
