La transparence algorithmique est un sujet de plus en plus important dans notre société, depuis la algorithmes d'intelligence artificielle (IA) ils sont de plus en plus utilisés pour prendre des décisions qui affectent la vie des gens.
Pour assurer la transparence algorithmique, il est essentiel que les algorithmes d'IA puissent être compris par les personnes qui les utilisent et les affectent, afin qu'ils puissent comprendre comment une certaine décision a été prise et pourquoi cette décision est prise ; ainsi que les algorithmes peuvent être revus pour détecter les erreurs ou les biais non intentionnels et améliorer leur précision.
La transparence est donc une exigence essentielle pour obtenir et maintenir la confiance des utilisateurs dans les systèmes d'IA, et un enjeu crucial pour promouvoir un développement et une utilisation responsables, sûrs et socialement équitables de cette technologie.
Pour se conformer à l'exigence de transparence des systèmes d'IA utilisés dans les administrations publiques la réglementation existante n'établit, aujourd'hui, aucun mécanisme ou instrument juridique « concret » ; bien que le règlement sur l'IA en cours de préparation par le Conseil de l'UE indique, comme première action recommandée, "d'enregistrer et de documenter" les systèmes d'IA utilisés par les organisations susceptibles d'être soumises à ce règlement. Le reste de la réglementation parle d'encourager la mise en place de "mécanismes" pour que les algorithmes impliqués dans la prise de décision prennent en compte des critères de transparence, sans en préciser aucun ; ou de publier sur le site la liste des actions administratives automatisées (AAA) avec des informations sur les règles appliquées et leur fonctionnement.
Afin d'atteindre la transparence dans l'utilisation des algorithmes d'IA, l'AOC propose la publication sur le Portail Transparence de fiches explicatives pour chaque algorithme utilisé.
Il s'agit d'une initiative phare de transparence algorithmique dans le secteur public de la Catalogne et de l'État.
Cette initiative se veut un outil pour :
Ainsi, pour chaque Algorithme IA employés dans les services d'administration numérique de l'AOC, nous réaliserons une fiche d'informations générales sur l'objectif et le fonctionnement de l'algorithme, puis donnerons des informations techniques plus détaillées. Il sera également possible de soumettre des commentaires pour aider l'équipe de développement à rendre les algorithmes que nous utilisons meilleurs, plus justes et plus responsables.
Ci-dessous, vous pouvez consulter le premier dossier de l'initiative publié sur notre portail de transparence. C'est l'onglet pour les chatbots conversationnels que nous appliquons aux services VALid, idCat Certificat et, bientôt, au portail de transparence lui-même.
Envie de connaître les secrets des algorithmes d'IA des chatbots conversationnels d'AOC ?
Le registre de transparence des algorithmes d'intelligence artificielle s'est principalement inspiré des excellentes expériences pratiques des registres municipauxAmsterdam et de Helsinki qui étaient les leaders en Europe.
