Le 29 février dernier, m4Social (le projet d'innovation numérique dans le domaine social de la Table des Entités du Troisième Secteur Social de Catalogne) a présenté, dans le cadre du programme officiel du MWC 2024, l'étude 'Radar d'algorithmes et de processus décisionnels automatisés pour l'accès aux droits sociaux des citoyens en Catalogne', réalisé conjointement avec KSNET.
Cette étude analyse les avantages et les risques de l'utilisation de l'intelligence artificielle (IA) par les entités publiques, en identifiant 12 systèmes d'IA mis en œuvre ou en cours de développement par les administrations publiques catalanes. Parmi ceux-ci, 3 systèmes d'IA appartiennent à l'Administration ouverte de Catalogne (AOC) et se distinguent non seulement par leurs fonctionnalités, mais aussi par l'effort considérable qu'ils représentent. transparència algorithme que l'AOC a entrepris.
Systèmes AOC AI inclus dans le radar
Les 3 systèmes d'IA AOC inclus dans le radar à algorithme de service social de m4Social sont :
- Chatbots conversationnels AOC: Ce système offre l'automatisation des tâches et la résolution des requêtes via des chatbots conversationnels. Avec un accès aux informations 24h/7 et XNUMXj/XNUMX, une réponse immédiate et une auto-résolution des doutes et des demandes de renseignements sur les services et procédures numériques, il améliore considérablement l'expérience utilisateur.
- Identification vidéo pour obtenir leidCat Mobile: Ce système facilite l'authentification à distance d'une personne grâce à l'identification vidéo. Avec un haut niveau de sécurité et une accessibilité améliorée, il offre un moyen simple et pratique d'obtenir une identité numérique pour traiter avec l'administration sans avoir besoin de se déplacer physiquement.
- Automatisation du rapport sur la précarité énergétique: Ce système accélère la détection et la réponse aux cas de vulnérabilité énergétique, améliorant ainsi la qualité des services sociaux. En standardisant le processus et en réduisant la bureaucratie, il garantit une réponse rapide et précise aux besoins des citoyens en situation de vulnérabilité.
La transparència La nature algorithmique de ces systèmes se manifeste par la publication de fichiers détaillés qui comprennent des informations sur les données utilisées pour entraîner l'algorithme, le type d'algorithme, les objectifs du système, les avantages obtenus à ce jour, les risques identifiés et les mesures appliquées dans chaque cas pour atténuer les risques et garantir le respect des principes et droits fondamentaux des personnes.
Vous trouverez ci-dessous les détails des fichiers de transparència algorithmique de ces 3 systèmes d'IA :
L'initiative de transparència Algorithme AOC
Les fichiers de transparència L'apprentissage algorithmique permet de comprendre le fonctionnement des algorithmes d'IA utilisés dans les services publics et les implications de leur utilisation, et, de plus, améliore la gouvernance de l'IA et favorise une interaction plus éclairée entre les citoyens et l'administration.
Cette initiative de transparència L'algorithme est l'un des meilleurseres en Catalogne et dans l'État, et c'est la seule qui ait déjà été mise en œuvre. Il s'inspire de l'algorithme d'enregistrement des villes d'Amsterdam et d'Helsinki, la norme de transparència L’utilisation de l’IA conforme aux normes algorithmiques du Royaume-Uni, ainsi qu’aux lignes directrices de l’OCDE et de la Commission européenne pour une IA digne de confiance, est également recommandée. De plus, elle figure parmi les actions préconisées dans la proposition de réglementation européenne sur l’IA pour les algorithmes à faible risque ou à risque limité (elle sera obligatoire pour les systèmes à haut risque).
Par l'initiative Transparència dans l'utilisation des algorithmes d'intelligence artificielle, L'AOC démontre son engagement envers transparència, la responsabilisation et la participation citoyenne, en veillant à ce que les citoyens soient bien informés et habilités à interagir avec les systèmes d'IA qui affectent leur vie. Cela favorise non seulement une meilleure compréhension du fonctionnement des algorithmes d’IA, mais favorise également une relation plus collaborative et constructive entre l’administration et les citoyens dans la création et la mise en œuvre de services plus efficaces, plus sûrs et plus inclusifs.
