Sfida

Come ottenere la fiducia degli utenti nei servizi governativi digitali che utilizzano dati e algoritmi di intelligenza artificiale, garantendone al tempo stesso un uso responsabile, sicuro ed equo. 

Soluzione proposta: che ogni servizio digitale includa, nella sua home page e sul Portale Transparència Da parte dell'ente responsabile, una relazione comprensibile sul funzionamento del sistema e sul suo potenziale impatto sulle persone.
→ Consulta il Modello di report in PDF transparència Algoritmo AOC (aggiornato il 17/4/2026)

Problema e contesto attuale

L'intelligenza artificiale (AI) è diventata parte integrante della nostra vita quotidiana. I governi lo utilizzano per migliorare l'accessibilità e l'esperienza dei servizi pubblici, ottimizzare i processi o gestire lo spazio pubblico, ad esempio.

Gli algoritmi sono il fondamento dei sistemi di intelligenza artificiale e spesso agiscono come "scatole nere" per le persone che li usano e li influenzano. Per evitare che ciò accada, è essenziale che gli algoritmi possano essere compresi dagli utenti, che possano capire come si è arrivati ​​a una certa decisione e perché questa decisione è stata presa. Tanto più nel caso del governo, che può funzionare solo quando c'è fiducia tra esso e il pubblico. Una buona amministrazione deve permettere a tutti i cittadini di comprendere le ragioni delle decisioni e di avere la possibilità di impugnarle.

Nei governi democratici, la fiducia è garantita da numerose garanzie legali. Per quanto riguarda l'obbligo di rendere trasparenti gli algoritmi di intelligenza artificiale utilizzati nei servizi di pubblica amministrazione digitale, la legge stabilisce il diritto degli individui a ottenere una spiegazione delle decisioni automatizzate (GDPR) e prevede la creazione di "meccanismi" affinché gli algoritmi coinvolti nel processo decisionale tengano conto di criteri di transparència e spiegabilità (Legge Integrale 15/2022 per la parità di trattamento e la non discriminazione), ma non stabilisce alcun meccanismo o strumento giuridico specifico per farlo. Fornisce solo raccomandazioni e lascia alla discrezione delle organizzazioni la scelta dello strumento più idoneo per:

  • fornire informazioni significative sulla logica degli algoritmi utilizzati nonché sulle conseguenze previste, che siano chiare e utilizzino un linguaggio comprensibile,
  • consentire alle persone di capire perché un algoritmo ha dato un determinato risultato, nonché indicare l'organo davanti al quale possono appellarsi alle loro decisioni particolari o contestarne il funzionamento generale,
  • aprire gli algoritmi al controllo democratico.

In considerazione della mancanza di meccanismi, tecniche o metodi concreti per raggiungere l'obiettivo transparència algoritmico, l'AOC ha condotto uno studio nel 2023 per trovare forme standardizzate di transparència e diamo priorità alla comprensione degli algoritmi che applichiamo ai nostri servizi di amministrazione digitale.

È qui che nasce l'iniziativa di transparència algoritmo che presentiamo.

La soluzione proposta 

La transparència nello sviluppo e nell'uso dell'intelligenza artificiale è una questione cruciale per garantire che questa tecnologia venga utilizzata in modo responsabile ed equo nei confronti della società.

Come mezzo per raggiungere l' transparència algoritmico, l'AOC propone che ogni servizio digitale includa, nella sua homepage e sul Portale Transparència dall'ente responsabile, una relazione comprensibile sul funzionamento del sistema e sugli algoritmi che utilizza.

Questa iniziativa vuole essere uno strumento per:

  • aiutare le persone a comprendere come funzionano gli algoritmi utilizzati nei governi locali, qual è il loro scopo e come possono influenzarli,
  • per fornire un transparència significativi in ​​modo standardizzato e consentono il confronto tra diversi algoritmi,
  • rendere facile per tutti esprimere la propria opinione e partecipare alla creazione di algoritmi incentrati sull'uomo.

Inoltre, sebbene l’iniziativa si concentri principalmente sui sistemi di intelligenza artificiale, include anche resoconti di transparència per algoritmi deterministici in casi d'uso sensibili, come sistemi di automazione complessi per un'assistenza sociale di vasta portata, seguendo il criterio che possano avere anche un impatto rilevante sulle persone.

→ Consulta il Modello di report in PDF transparència Algoritmo AOC (aggiornato il 17/4/2026)

Contenuto del rapporto

Ogni rapporto di transparència algoritmico contiene:

  • il problema da risolvere con l'algoritmo in questione,
  • la spiegazione delle caratteristiche dell'algoritmo nonché del suo funzionamento,
  • i gruppi che potrebbero essere interessati dall’algoritmo,
  • la stima del livello di rischio del sistema algoritmico, basata su:
    • l'analisi del rischio o la valutazione d'impatto sui diritti fondamentali che è stata effettuata (a seconda dei casi) per determinare i possibili pregiudizi discriminatori dell'algoritmo,
    • l'analisi dei rischi per la sicurezza del sistema effettuata per identificare le possibili contingenze di disponibilità e sicurezza del sistema che contiene l'algoritmo,
    • la gestione del rischio effettuate e le misure applicate garantire il rispetto dei diritti fondamentali, 
  • l'organismo davanti al quale è possibile ricorrere contro le decisioni particolari dell'algoritmo o contestare il suo funzionamento generale quando la legge lo richiede,
  • i dati di contatto del responsabile e del fornitore dell'algoritmo.

Come è stato determinato il contenuto del rapporto

Per determinare il contenuto dei report transparència algorithmic, il team Innovation and Data con il supporto dei servizi legali dell'AOC, ha condotto, nel 2023, uno studio che ha incluso:  

  1. Un analisi della normativa vigente in quel momento in cui il soggetto del transparència delle decisioni automatizzate prese dagli algoritmi di intelligenza artificiale, prestando particolare attenzione alle seguenti regole:  
  • Regolamento europeo sulla protezione dei dati (RGPD)
  • Proposta di regolamento del Consiglio d'Europa sull'uso dell'intelligenza artificiale (legge sull'intelligenza artificiale)
  • Legge 40/2015 sul regime giuridico del settore pubblico (LRJSP) e regolamenti per l'esercizio e il funzionamento del settore pubblico con mezzi elettronici (RD 203/2021)
  • Legge Integrata 15/2022 per la parità di trattamento e la non discriminazione 
  1. Documenti che offrivano linee guida e orientamento per ottenere un'IA sicura e affidabile. Dovrebbe essere notato: 
  • Linee guida etiche per un'IA affidabile, del gruppo di esperti ad alto livello sull'IA della Commissione europea (aprile 2019) 
  • Rapporto "Unboxing Artificial Intelligence: 10 Steps to Protect Human Rights" del Commissario per i diritti umani del Consiglio d'Europa (maggio 2019)
  • Principi per la gestione responsabile dell'intelligenza artificiale affidabile dalla raccomandazione del Consiglio per l'intelligenza artificiale dell'OCSE (maggio 2019)
  • Rapporto APDCAT "Decisioni automatizzate in Catalogna" (gennaio 2020)  
  • Dichiarazione europea sui diritti digitali e principi per il decennio digitale (gennaio 2023)
  • Strumento NIST per la gestione dei rischi legati all'intelligenza artificiale (gennaio 2023)
  1. Sono stati anche esplorati iniziative di transparència algoritmico delle diverse amministrazioni, che erano in fase di sviluppo o di recente implementazione. Vale la pena notare: 
  • Registro dell'intelligenza artificiale delle città di Helsinki e Amsterdam - implementato
  • Standard di transparència Algoritmo di Eurocities, basato sullo standard del Regno Unito – implementato
  • Proposta per un quadro di lavoro etico per gli algoritmi della Generalitat de Catalunya (maggio 2021)
  • Modello di registrazione dell'algoritmo comunale del Comune di Barcellona basato sullo standard di transparència da Eurocities (gennaio 2023)
  • Raccolta di algoritmi di intelligenza artificiale del Sistema Sanitario Catalano (SISCAT) e dei centri di ricerca della Catalogna nell'ambito dell'Osservatorio di intelligenza artificiale in salute della Fondazione TIC Salut Social (dicembre 2022)
  • Radar degli algoritmi di intelligenza artificiale della Tabella degli enti del Terzo Settore Sociale della Catalogna (gennaio 2024)

Conclusioni dello studio

Gli Stati membri dell’Unione Europea si impegnano, attraverso la Dichiarazione europea sui diritti e i principi digitali per il decennio digitale, a garantire un livello adeguato di transparència nell'uso di algoritmi e intelligenza artificiale e affinché le persone siano informate e formate ad utilizzarli quando interagiscono con essi.

Per soddisfare il requisito di transparència dei sistemi di IA delle pubbliche amministrazioni, la normativa vigente specifica le informazioni che devono essere fornite a seconda dei casi [1], ma non definisce un meccanismo "concreto", un formato standardizzato o uno strumento giuridico a tal fine; Sebbene: 

  • il Regolamento IA stabilisce l’obbligo di tenere un registro di tutte le informazioni rilevanti dei sistemi di IA ad alto rischio (art. 17);
  • La legge 15/2022 sulla parità di trattamento e la non discriminazione parla di promuovere l'implementazione di "meccanismi" affinché gli algoritmi coinvolti nel processo decisionale tengano conto di criteri per ridurre al minimo i pregiudizi, transparència e responsabilità (art. 23);
  • il Regolamento sull’andamento e sul funzionamento del settore pubblico con mezzi elettronici stabilisce l’obbligo di pubblicare sul proprio sito web l’elenco delle azioni amministrative automatizzate (AAA) – che possono comportare o meno l’uso di algoritmi di intelligenza artificiale – e accompagnare ciascun AAA con una descrizione della sua progettazione e funzionamento (art. 11). 

Abbiamo esplorato diverse iniziative promosse dai governi locali e regionali europei, al fine di trovare un modo standardizzato che ci consenta di soddisfare i requisiti di transparència degli algoritmi di intelligenza artificiale che applichiamo ai nostri servizi di amministrazione digitale.

Tra tutte le iniziative esplorate e in conformità con gli obblighi di legge in vigore, siamo giunti alla conclusione che il pubblicazione di relazioni transparència algoritmico sul Portale di Transparència è un soluzione semplice e veloce che facilita il rispetto del requisito di transparència stabilito nei regolamenti i permette di guadagnare la fiducia degli utenti nei sistemi di AI delle pubbliche amministrazioni.

Lo studio ci ha anche permesso di determinare quali informazioni rilevanti devono essere fornite sui servizi pubblici basati sull’intelligenza artificiale in modo che gli utenti possano capire come gli algoritmi prendono decisioni e come tali decisioni vengono verificate. Altrimenti, lo studio ci ha portato a sviluppare una metodologia agile e pratica per identificare e analizzare i rischi più probabili connessi all’uso di algoritmi di intelligenza artificiale in relazione a diritti fondamentali, e collegarli alle misure che dovranno essere applicate in ciascun caso per garantire il rispetto di tali diritti.

Metodologia di gestione del rischio incentrata sulla tutela dei diritti fondamentali

Per garantire un’IA affidabile, etica e sicura nei servizi pubblici, l’AOC ha sviluppato una propria metodologia di gestione del rischio. Questa metodologia, incentrata sulla tutela dei diritti fondamentali, affronta i possibili rischi che possono colpire i cittadini e descrive in dettaglio come possono essere mitigati o minimizzati. La metodologia si compone di tre fasi principali, ciascuna con una solida base nelle normative e nelle linee guida internazionali.

  • Fase 1: Individuazione dei principi fondamentali e dei diritti da tutelare
    Per garantire un’IA rispettosa dei valori democratici, ci siamo affidati alla Carta dei diritti fondamentali dell’Unione Europea, che ci aiuta a definire le principali famiglie di diritti e principi che possono essere interessati dall’IA. Questi sono:

    • A) Uguaglianza e non discriminazione
    • B) Protezione dei dati, privacy e autonomia personale
    • C) Sicurezza, robustezza e sicurezza informatica
    • D) Transparència, spiegabilità e accesso alle informazioni
    • E) Responsabilità, rendicontabilità e verificabilità
    • F) Impatto sociale, sostenibilità e diritti economici

  • Fase 2: Identificazione dei rischi associati e della loro relazione con i principi e i diritti da tutelare
    Per identificare i rischi più comuni nell’uso dell’IA, l’AOC ha adottato ilFramework per la gestione dei rischi legati all'intelligenza artificiale (AI RMF 1.0) dal NIST, che mette in relazione i rischi potenziali ai suddetti principi e diritti. Questo approccio consente di determinare quali rischi possono mettere in pericolo ciascuna delle famiglie dei diritti fondamentali, aiutando così ad anticipare e gestire problemi come la discriminazione, la privacy o la sicurezza.

  • Fase 3: Determinazione delle misure di gestione del rischio
    Per individuare i meccanismi e le garanzie caso per caso più adeguati ed efficaci per evitare la violazione di principi e diritti fondamentali, ci siamo basati sul Capo II della Linee guida etiche per un’intelligenza artificiale affidabile della Commissione Europea, e nel Regolamento IA recentemente approvato (applicazione obbligatoria dal 2/8/2026), in modo che i meccanismi siano determinati in base al livello di rischio del sistema IA e per determinati sistemi o modelli di IA. Per esempio:
    • alto rischio: soggetto a specifici requisiti di sicurezza e protezione transparència, e l'obbligo di effettuare una valutazione d'impatto sui diritti fondamentali prima di implementare il sistema (art. 27)
    • Rischio limitato: obblighi minimi di transparència per consentire agli utenti di prendere decisioni informate ed essere consapevoli quando interagiscono con un'IA.

Questa metodologia ci aiuta a mantenere un sistema di IA trasparente, sicuro e impegnato a proteggere i diritti fondamentali.

→ Per maggiori dettagli, è possibile consultare il documento completo: Metodologia di gestione del rischio dei sistemi di intelligenza artificiale di AOC (PDF)

→A presentazione (PPT, 7/11/2024) è possibile vedere una tabella riepilogativa delle tre fasi della metodologia di gestione del rischio dell'AOC.

Rapporti pubblicati:

Stato del progetto

In produzioneSono stati pubblicati quattro rapporti. transparència algoritmico.

Maggiori informazioni

Casi pratici implementati:

Casi in fase di sviluppo:

Riferimenti bibliografici:

Obblighi di legge:

quadro europeo

  • Regolamento (UE) 2016/679 del Parlamento Europeo e del Consiglio, del 27 aprile 2016, relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati e con il quale abroga la direttiva 95 /46/CE (“RGPD"). collegamento
  • Linee guida in materia di decisioni individuali automatizzate e profilazione ai fini del Regolamento 2016/679. Adottato il 3 ottobre 2017 e riveduto per l'ultima volta e adottato il 6 febbraio 2018. Gruppo di lavoro sulla protezione dei dati Articolo 29 della direttiva 95/46/CE. collegamento
  • Regolamento del Parlamento europeo e del Consiglio che stabilisce norme armonizzate sull'intelligenza artificiale (Legge sull'IA) e vengono modificati alcuni atti legislativi dell'Unione. 12/7/2024. collegamento 

Quadro statale

  • Legge organica 3/2018, del 5 dicembre, sulla protezione dei dati personali e la garanzia dei diritti digitali (“LOPDGDD"). collegamento
  • Conformità al RGPD dei trattamenti che incorporano l'Intelligenza Artificiale. Un introduzione Febbraio 2020. AEPD. collegamento
  • Legge 15/2022, del 12 luglio, integrale per la parità di trattamento e la non discriminazione. collegamento

quadro catalano

  • Legge 19/2014, del 29 dicembre, del transparència, accesso alle informazioni pubbliche e buona governance. collegamento
  • Decreto 76/2020, del 4 agosto, sull'Amministrazione Digitale. collegamento

[1] Ad esempio, il Regolamento sull'IA specifica le informazioni che devono essere fornite in relazione a determinati sistemi di IA (art. 50); il GDPR determina le informazioni che devono essere fornite all'interessatoeresquando vi sono decisioni automatizzate (art. 13); e la LRJSP stabilisce l'obbligo di informare l'organismo responsabile di un'azione amministrativa automatizzata nell'ufficio elettronico, ai fini del ricorso (art. 41).