Algorithmische Transparenz ist ein Thema von zunehmender Bedeutung in unserer Gesellschaft Algorithmen der künstlichen Intelligenz (KI). Sie werden zunehmend dazu genutzt, Entscheidungen zu treffen, die das Leben von Menschen beeinflussen.
Um die Transparenz der Algorithmen zu gewährleisten, ist es wichtig, dass KI-Algorithmen von den Menschen, die sie nutzen und beeinflussen, verstanden werden können, sodass sie nachvollziehen können, wie eine bestimmte Entscheidung getroffen wurde und warum diese Entscheidung getroffen wird; Außerdem können die Algorithmen überprüft werden, um Fehler oder unbeabsichtigte Verzerrungen zu erkennen und ihre Genauigkeit zu verbessern.
Transparenz ist daher eine wesentliche Voraussetzung, um das Vertrauen der Nutzer in KI-Systeme zu erreichen und aufrechtzuerhalten, und ein entscheidendes Thema für die Förderung einer verantwortungsvollen, sicheren und gesellschaftlich gerechten Entwicklung und Nutzung dieser Technologie.
Um die Anforderung von zu erfüllen Transparenz der in öffentlichen Verwaltungen eingesetzten KI-Systeme die bestehenden Vorschriften sehen derzeit keinen „konkreten“ Rechtsmechanismus oder Rechtsinstrument vor; Allerdings weist die KI-Verordnung, die derzeit vom Rat der EU ausgearbeitet wird, als erste Handlungsempfehlung darauf hin, die KI-Systeme zu „registrieren und zu dokumentieren“, die von den Organisationen verwendet werden, die möglicherweise dieser Verordnung unterliegen. In den übrigen Vorschriften wird davon gesprochen, die Implementierung von „Mechanismen“ zu fördern, damit die an der Entscheidungsfindung beteiligten Algorithmen Transparenzkriterien berücksichtigen, ohne welche festzulegen; oder auf der Website die Liste der automatisierten Verwaltungsmaßnahmen (AAA) mit Informationen zu den angewandten Regeln und ihrer Funktionsweise zu veröffentlichen.
Um Transparenz bei der Nutzung von KI-Algorithmen zu erreichen, schlägt das AOC die Veröffentlichung von Erläuterungsblättern zu jedem eingesetzten Algorithmus auf dem Transparenzportal vor.
Dies ist eine führende Initiative für algorithmische Transparenz im öffentlichen Sektor Kataloniens und des Staates.
Diese Initiative soll ein Instrument sein für:
Also für jeden KI-Algorithmus Als Mitarbeiter der digitalen Verwaltungsdienste des AOC erstellen wir ein Informationsblatt mit allgemeinen Informationen über den Zweck und die Funktionsweise des Algorithmus und geben anschließend detailliertere technische Informationen. Es wird auch die Möglichkeit geben, Feedback abzugeben, um dem Entwicklungsteam dabei zu helfen, die von uns verwendeten Algorithmen besser, fairer und verantwortungsvoller zu machen.
Nachfolgend können Sie die erste Datei der Initiative einsehen, die auf unserem Transparenzportal veröffentlicht wurde. Dies ist die Registerkarte für Konversations-Chatbots, die wir auf die Dienste VALid, idCat Certificat und bald auch auf das Transparenzportal selbst anwenden.
Möchten Sie die Geheimnisse hinter den KI-Algorithmen der Konversations-Chatbots von AOC erfahren?
Das Transparenzregister für Algorithmen der künstlichen Intelligenz wurde hauptsächlich von den hervorragenden praktischen Erfahrungen städtischer Register inspiriertAmsterdam ich von Helsinki die in Europa führend waren.
