Le directeur de l'AOC, Miquel Estape, et le responsable de l'Innovation, Carme Callés, présenté au Smart City Expo World Congress (SCEWC) le initiative de transparència algorithmique que l'AOC applique à ses services. L'objectif principal est de renforcer la confiance dans les services d'administration numérique qui utilisent les données et l'intelligence artificielle (IA), tout en garantissant une utilisation éthique et responsable. La session, qui s'est tenue le 7 novembre sur le stand Àgora de la Catalogne lors du SCEWC, a rencontré un vif succès. L'AOC tient à remercier tout particulièrement la présence de representaconseils municipaux catalans interessats dans cette initiative.
Avec ce projet, l'AOC cherche à promouvoir transparènciaIl s'agit de faciliter la compréhension des algorithmes, d'encourager la participation citoyenne à leur développement et de garantir la qualité des données pour l'entraînement des modèles d'IA. Cela implique également de veiller à ce que les algorithmes soient exempts de biais et fassent l'objet d'un suivi régulier.
Publication des rapports transparència algorithmique
Pour atteindre ces objectifs, l'AOC a élaboré des rapports transparència Des rapports algorithmiques au contenu standardisé permettent de présenter clairement et de manière compréhensible chaque système d'IA. Ces rapports expliquent, dans un langage accessible et simple, le fonctionnement et les effets des algorithmes sur les personnes. Ils constituent un outil de conformité aux obligations de transparència établi par la réglementation, en plus de permettre la comparaison entre différents algorithmes d'IA.
Les rapports respectent les normes internationales, telles que le modèle d'enregistrement des algorithmes d'Amsterdam et d'Helsinki, la norme algorithmique européenne Eurocities et les recommandations de l'OCDE et du NIST américain. Ces référentiels ont contribué à établir des bonnes pratiques qui facilitent… transparència important, car cela permet aux citoyens de mieux comprendre l’utilisation de leurs données et la finalité de ces algorithmes.
Méthodologie de gestion des risques axée sur la protection des droits fondamentaux
Un autre élément essentiel de l’initiative a été le développement de sa propre méthodologie de gestion des risques pour évaluer l’impact de l’IA sur les droits fondamentaux. Cette méthodologie identifie les principes et droits fondamentaux qui peuvent être affectés par l'utilisation de grands volumes de données traitées par des algorithmes. L'AOC réalise ainsi une étude d'impact qui permet une analyse des risques accessible et compréhensible pour les non-experts.
Cet outil, agile et basé sur la réglementation en vigueur, permet d'identifier et d'atténuer les risques de discrimination, de vulnérabilité des données ou de biais qui pourraient affecter les citoyens.
La méthodologie s'adapte également aux exigences du Règlement sur l'Intelligence Artificielle (Loi sur l'IA), qui précise la nécessité d'analyser les risques connus et prévisibles en matière de santé, de sécurité et de droits fondamentaux. Nous souhaitons ainsi garantir que nos systèmes d'IA respectent les normes de sécurité. transparència et la responsabilité nécessaire pour instaurer la confiance dans l'administration numérique.
Voici la présentation :
À ce jour, trois rapports ont été publiés :
Rapports sur :
- Chatbots avec IA générative
- Classification automatique des incidents sur la voie publique
