Il direttore dell'AOC, Miquel Estapèe il responsabile dell'Innovazione, Carmelo Callés, presentato allo Smart City Expo World Congress (SCEWC) il iniziativa di transparència algoritmico che l'AOC applica ai suoi servizi. L'obiettivo principale è promuovere la fiducia nei servizi di amministrazione digitale che utilizzano dati e intelligenza artificiale (IA), garantendone al contempo un utilizzo etico e responsabile. La sessione, tenutasi il 7 novembre presso l'Àgora della Catalogna, stand dello SCEWC, è stata accolta con grande entusiasmo. Da parte dell'AOC, vorremmo ringraziare in particolare la presenza di representaConsigli comunali catalani interessats in questa iniziativa.
Con questo progetto l'AOC intende promuovere la transparència, facilitare la comprensione degli algoritmi, incoraggiare la partecipazione dei cittadini al loro sviluppo e garantire dati di qualità per l'addestramento dei modelli di intelligenza artificiale. Ciò include anche garantire che gli algoritmi siano privi di distorsioni e siano regolarmente monitorati.
Pubblicazione di relazioni transparència algoritmico
Per raggiungere questi obiettivi, l'AOC ha elaborato dei report transparència algoritmici con contenuti standardizzati per fornire una visione chiara e comprensibile di ciascun sistema di intelligenza artificiale. Questi report spiegano, in un linguaggio accessibile e semplice, il funzionamento e gli effetti degli algoritmi sulle persone. Sono uno strumento per adempiere agli obblighi di transparència stabilito dalla normativa, oltre a consentire il confronto tra diversi algoritmi di intelligenza artificiale.
I report seguono standard internazionali, come il modello di registrazione algoritmica di Amsterdam e Helsinki, lo standard algoritmico europeo di Eurocities e le raccomandazioni dell'OCSE e del NIST statunitense. Questi parametri di riferimento hanno contribuito a stabilire buone pratiche che facilitano un transparència significativo, consentendo ai cittadini di comprendere meglio l'uso dei propri dati e lo scopo di questi algoritmi.
Metodologia di gestione del rischio incentrata sulla tutela dei diritti fondamentali
Un altro elemento essenziale dell’iniziativa è stato lo sviluppo di una metodologia proprietaria di gestione del rischio per valutare l’impatto dell’IA sui diritti fondamentali. Questa metodologia identifica principi e diritti fondamentali che potrebbero essere influenzati dall’uso di grandi volumi di dati elaborati con algoritmi. L'AOC effettua quindi una valutazione d'impatto che consente un'analisi dei rischi accessibile e comprensibile anche ai non esperti.
Questo strumento, agile e basato sulle normative vigenti, aiuta a identificare e mitigare i rischi di discriminazione, vulnerabilità dei dati o pregiudizi che potrebbero colpire i cittadini.
La metodologia si adatta anche ai requisiti del Regolamento sull’Intelligenza Artificiale (Legge sull'IA), che specifica la necessità di analizzare i rischi noti e prevedibili in relazione alla salute, alla sicurezza e ai diritti fondamentali. In questo modo, vogliamo garantire che i nostri sistemi di intelligenza artificiale siano conformi agli standard di sicurezza, transparència e la responsabilità necessarie per generare fiducia nell'amministrazione digitale.
Ecco la presentazione:
Ad oggi sono stati pubblicati tre rapporti:
Rapporti su:
- Chatbot con intelligenza artificiale generativa
- Classificazione automatica degli incidenti sulle strade pubbliche
