L'AOC crée un registre de transparence des algorithmes d'intelligence artificielle à la pointe de l'État
La transparence algorithmique est un sujet de plus en plus important dans notre société, depuis la algorithmes d'intelligence artificielle (IA) ils sont de plus en plus utilisés pour prendre des décisions qui affectent la vie des gens.
Pour assurer la transparence algorithmique, il est essentiel que les algorithmes d'IA puissent être compris par les personnes qui les utilisent et les affectent, afin qu'ils puissent comprendre comment une certaine décision a été prise et pourquoi cette décision est prise ; ainsi que les algorithmes peuvent être revus pour détecter les erreurs ou les biais non intentionnels et améliorer leur précision.
La transparence est donc une exigence essentielle pour obtenir et maintenir la confiance des utilisateurs dans les systèmes d'IA, et un enjeu crucial pour promouvoir un développement et une utilisation responsables, sûrs et socialement équitables de cette technologie.
Pour se conformer à l'exigence de transparence des systèmes d'IA utilisés dans les administrations publiques la réglementation existante n'établit, aujourd'hui, aucun mécanisme ou instrument juridique « concret » ; bien que le règlement sur l'IA en cours de préparation par le Conseil de l'UE indique, comme première action recommandée, "d'enregistrer et de documenter" les systèmes d'IA utilisés par les organisations susceptibles d'être soumises à ce règlement. Le reste de la réglementation parle d'encourager la mise en place de "mécanismes" pour que les algorithmes impliqués dans la prise de décision prennent en compte des critères de transparence, sans en préciser aucun ; ou de publier sur le site la liste des actions administratives automatisées (AAA) avec des informations sur les règles appliquées et leur fonctionnement.
Que faisons-nous pour assurer la transparence des algorithmes d'IA dans l'AOC ?
Afin d'atteindre la transparence dans l'utilisation des algorithmes d'IA, l'AOC propose la publication sur le Portail Transparence de fiches explicatives pour chaque algorithme utilisé.
Il s'agit d'une initiative phare de transparence algorithmique dans le secteur public de la Catalogne et de l'État.
Cette initiative se veut un outil pour :
Fournir aux utilisateurs un aperçu des systèmes algorithmiques utilisés dans l'AOC, y compris des informations sur les caractéristiques et les résultats de leur fonctionnement, les risques et les biais qui ont été identifiés et les mesures qui ont été appliquées pour les corriger, et l'instance devant laquelle ses décisions peuvent être portées en appel ou son fonctionnement général contesté.
Permettre à chacun de donner facilement son avis et de participer à la création d'algorithmes centrés sur l'humain.
Ainsi, pour chaque Algorithme IA employés dans les services d'administration numérique de l'AOC, nous réaliserons une fiche d'informations générales sur l'objectif et le fonctionnement de l'algorithme, puis donnerons des informations techniques plus détaillées. Il sera également possible de soumettre des commentaires pour aider l'équipe de développement à rendre les algorithmes que nous utilisons meilleurs, plus justes et plus responsables.
Ci-dessous, vous pouvez consulter le premier dossier de l'initiative publié sur notre portail de transparence. C'est l'onglet pour les chatbots conversationnels que nous appliquons aux services VALid, idCat Certificat et, bientôt, au portail de transparence lui-même.
Envie de connaître les secrets des algorithmes d'IA des chatbots conversationnels d'AOC ?
Le registre de transparence des algorithmes d'intelligence artificielle s'est principalement inspiré des excellentes expériences pratiques des registres municipauxAmsterdam et de Helsinki qui étaient les leaders en Europe.