L'AOC ha partecipato al Macro-Workshop sull'Intelligenza Artificiale del Comitato Tecnico Interno della Rete Spagnola delle Città Intelligenti (RECI), tenutosi il 14 settembre a Malaga, condividendo la nostra esperienza in materia di governance, transparència e la responsabilità dei sistemi di intelligenza artificiale.
Come possiamo passare dai principi generali dell'IA responsabile alla governance efficace di ciascun sistema di intelligenza artificiale che integriamo in un servizio pubblico?
Questa era la domanda che il Carmelo Callés i Davide Pastore, della Sottodirezione per la strategia e l'innovazione dell'AOC, abbiamo partecipato al workshop RECI sulle macro di intelligenza artificiale.
Il blog dedicato al futuro e alla strategia comunale dell'IA ha proposto un percorso dalla governance generale al caso specifico: Sant Feliu de Llobregat ha presentato la mappa delle dimensioni da governare; Viladecans, come queste dimensioni vengono implementate in un'organizzazione reale; e dall'AOC siamo scesi di un ulteriore livello: Come governiamo ciascuno dei sistemi di intelligenza artificiale che integriamo nei servizi pubblici?
Quando la spiegazione dell'IA ci porta a governarla
All'AOC abbiamo iniziato a lavorare nel 2023 con il segnalazioni di transparència algoritmico (TRAL) Partendo da una domanda molto chiara: cosa dovremmo spiegare ai cittadini quando utilizziamo algoritmi o intelligenza artificiale in un servizio pubblico?
L'obiettivo era rendere questi sistemi più comprensibili, rafforzare la fiducia nei servizi pubblici che utilizzano l'IA e rispondere agli obblighi di transparència che venivano incorporate nel quadro normativo. È l'origine del nostro iniziativa di transparència algoritmico.
L'esperienza ci ha fatto riconsiderare questa idea: essere in grado di spiegare e rendere conto di un sistema di IA, dobbiamo prima comprenderlo, valutarlo, fornire garanzie e supervisionarlo.
Ciò implica rispondere a domande molto specifiche: perché utilizziamo l'IA? Con quali dati e tecnologie interagisce? Cosa può andare storto? Quali diritti possono essere compromessi? Quali garanzie offriamo? Come verifichiamo che funzionino? Chi supervisiona e si assume la responsabilità del sistema? E cosa spieghiamo al pubblico in merito a tutto questo?
Quindi, ciò che è iniziato principalmente come un attrezzo transparència si sta evolvendo in uno strumento agile e pratico che ci aiuta ordinare, documentare e rendere trasparente la governance di ogni singolo sistema di IA, dalla sua progettazione e per tutto il suo ciclo di vita.
Tuttavia, il TRAL non sostituisce le valutazioni e i controlli previsti dalla legge in materia di protezione dei dati, sicurezza o diritti fondamentali: li integra e contribuisce a riunire le diverse prospettive e responsabilità coinvolte nella governance di un sistema di intelligenza artificiale.
Il TRAL incompleto: dalla teoria alla pratica
Dopo la presentazione, abbiamo messo alla prova questa idea con i partecipanti attraverso le dinamiche “Il TRAL incompleto: individuare le lacune”.
La sfida è partita da un caso semplice: un consiglio comunale utilizza l'IA per aiutare anonimizzare gli atti comunali prima di pubblicarli, un caso d'uso in cui l'AOC sta già lavorandoL'intelligenza artificiale analizza il documento e propone quali dati nascondere, ma il consiglio comunale esamina il risultato e decide cosa pubblicare.
I partecipanti hanno ricevuto un TRAL che, a prima vista, sembrava completo: trattava lo scopo, i dati e la tecnologia, i rischi, le garanzie, la supervisione e le responsabilità. Tuttavia, lo faceva con affermazioni eccessivamente generiche: i rischi erano "controllabili", venivano applicate "misure per ridurre gli errori" e il sistema veniva rivisto "periodicamente", senza specificare quali misure venissero applicate, come venissero verificate, chi supervisionasse o chi intervenisse in caso di problemi.
Organizzati in gruppi, i partecipanti dovevano individuare queste lacune e proporre soluzioni per colmarle. I contributi sono stati raccolti in un ampio TRAL condiviso, creando insieme una mappa delle informazioni necessarie per comprendere il sistema, supervisionarlo e richiederne la responsabilità per il suo funzionamento.
Porre le domande giuste è anche governare
Il workshop ci ha permesso di testare un'idea semplice: La preparazione di un TRAL non consiste semplicemente nel compilare le sezioni di un moduloma per formulare le domande a cui dobbiamo rispondere per governare veramente un sistema di intelligenza artificiale:
Comprendere → Valutare → Garantire → Monitorare → Spiegare → Rispondere.
Perché il transparència Il termine "algoritmico" non significa semplicemente che utilizziamo l'intelligenza artificiale. Significa essere in grado di spiegare perché lo utilizziamo, come lo gestiamo, quali garanzie abbiamo incorporato e come verifichiamo che funzionino.
E questo è il passo su cui stiamo lavorando ora all'AOC: far evolvere i report di transparència algoritmico in modo che continuino ad essere uno strumento di transparència per i cittadini e, allo stesso tempo, aiutarci a trasformare i principi dell'IA etica e responsabile in governance efficace di ciascun caso d'uso.
