L'AOC promeut un modèle de reportage de transparència parmi les principaux algorithmes d'intelligence artificielle de l'État
PARTAGER
Ce message date de plus d'un an. Le contenu n'est peut-être pas à jour.
La transparència L'algorithmique est un sujet d'importance croissante dans notre société, car algorithmes d'intelligence artificielle (IA) ils sont de plus en plus utilisés pour prendre des décisions qui affectent la vie des gens.
Pour garantir transparència Du point de vue algorithmique, il est essentiel que les algorithmes d'IA soient compréhensibles par les personnes qui les utilisent et les influencent, afin qu'elles puissent comprendre comment une décision a été prise et pourquoi elle l'a été ; et que les algorithmes puissent être revus pour détecter les erreurs ou les biais involontaires et améliorer leur précision.
La transparència Il s'agit donc d'une condition essentielle pour obtenir et maintenir la confiance des utilisateurs dans les systèmes d'IA, et d'un enjeu crucial pour promouvoir le développement et l'utilisation responsable, sûre et équitable de cette technologie au sein de la société.
Pour se conformer à l'exigence de transparència des systèmes d'IA utilisés dans les administrations publiques La réglementation en vigueur n'établit actuellement aucun mécanisme ou instrument juridique « concret » ; toutefois, le règlement sur l'IA en cours d'élaboration par le Conseil de l'UE recommande, en première intention, d'« enregistrer et de documenter » les systèmes d'IA utilisés par les organisations susceptibles d'être soumises à ce règlement. Le reste de la réglementation vise à encourager la mise en œuvre de « mécanismes » permettant aux algorithmes impliqués dans la prise de décision de prendre en compte des critères de transparència, sans en préciser aucune ; ou de publier sur son site web la liste des actions administratives automatisées (AAA) avec des informations sur les règles appliquées et leur fonctionnement.
Que faisons-nous pour garantir transparència des algorithmes d'IA dans l'AOC ?
Afin d'atteindre le transparència Concernant l’utilisation des algorithmes d’IA, l’AOC propose la publication sur le Portail de Transparència des fiches explicatives pour chaque algorithme utilisé.
Il s'agit d'une initiative pionnière transparència algorithmique dans le secteur public de la Catalogne et de l'État.
Cette initiative se veut un outil pour :
Fournir aux utilisateurs un aperçu des systèmes algorithmiques utilisés dans l'AOC, y compris des informations sur les caractéristiques et les résultats de leur fonctionnement, les risques et les biais qui ont été identifiés et les mesures qui ont été appliquées pour les corriger, et l'instance devant laquelle ses décisions peuvent être portées en appel ou son fonctionnement général contesté.
Permettre à chacun de donner facilement son avis et de participer à la création d'algorithmes centrés sur l'humain.
Ainsi, pour chaque Algorithme IA employés dans les services d'administration numérique de l'AOC, nous réaliserons une fiche d'informations générales sur l'objectif et le fonctionnement de l'algorithme, puis donnerons des informations techniques plus détaillées. Il sera également possible de soumettre des commentaires pour aider l'équipe de développement à rendre les algorithmes que nous utilisons meilleurs, plus justes et plus responsables.
Vous pouvez consulter ci-dessous la première fiche de l'initiative publiée sur notre portail. TransparènciaVoici le profil des chatbots conversationnels que nous appliquons aux services VALid, idCat Certificat et, bientôt, sur le portail lui-même Transparència.
Envie de connaître les secrets des algorithmes d'IA des chatbots conversationnels d'AOC ?
Le registre de transparència Les algorithmes d'intelligence artificielle ont été principalement inspirés par les excellentes expériences pratiques des services d'état civil municipaux.Amsterdam et de Helsinki qui étaient en chargeeres en Europe.
