Am 29. Februar präsentierte m4Social (das digitale Innovationsprojekt im sozialen Bereich der Entitätentabelle des Dritten Sozialsektors Kataloniens) im Rahmen des offiziellen Programms des MWC 2024 die Studie „Radar von Algorithmen und automatisierten Entscheidungsprozessen für den Zugang zu den sozialen Rechten der Bürger in Katalonien', gemeinsam mit KSNET produziert.
Diese Studie analysiert die Vorteile und Risiken des Einsatzes künstlicher Intelligenz (KI) durch öffentliche Einrichtungen und identifiziert 12 KI-Systeme, die von katalanischen öffentlichen Verwaltungen implementiert werden oder sich in der Entwicklung befinden. Von diesen, 3 KI-Systeme gehören zur Offenen Verwaltung Kataloniens (AOC) und zeichnen sich nicht nur durch ihre Funktionalitäten aus, sondern auch durch die wichtigen Bemühungen der AOC um algorithmische Transparenz.
Die 3 AOC-KI-Systeme, die im Social Service Algorithm Radar von m4Social enthalten sind, sind:
Die algorithmische Transparenz dieser Systeme manifestiert sich in der Veröffentlichung detaillierter Dateien einschließlich Informationen über die zum Trainieren des Algorithmus verwendeten Daten, die Art des Algorithmus, die Ziele des Systems, die bisher erzielten Vorteile, die identifizierten Risiken und die jeweils ergriffenen Maßnahmen zur Risikominderung und Sicherstellung der Einhaltung der Grundsätze und Grundlagen Rechte der Menschen.
Unten sehen Sie die Details der algorithmischen Transparenzblätter für diese drei KI-Systeme:
Algorithmische Transparenz-Tokens ermöglichen es den Menschen zu verstehen, wie KI-Algorithmen im öffentlichen Dienst funktionieren und welche Auswirkungen ihre Verwendung hat. Außerdem verbessern sie die KI-Governance und fördern eine fundiertere Interaktion zwischen Bürgern und Regierung. Verwaltung.
Diese Initiative zur algorithmischen Transparenz ist eine der ersten in Katalonien und im Bundesstaat und die einzige, die bereits umgesetzt wurde. Es ist inspiriert vom Algorithmenregister der Städte Amsterdam und Helsinki, dem algorithmischen Transparenzstandard des Vereinigten Königreichs sowie den Richtlinien der OECD und der Europäischen Kommission für zuverlässige KI. Darüber hinaus handelt es sich um eine der empfohlenen Maßnahmen, auf die in der vorgeschlagenen europäischen KI-Verordnung für Algorithmen mit geringem oder begrenztem Risiko Bezug genommen wird (im Fall von Systemen mit hohem Risiko wird es eine Verpflichtung sein).
Durch die Initiative Transparenz beim Einsatz von Algorithmen der künstlichen Intelligenz, Das AOC demonstriert sein Engagement für Transparenz, Rechenschaftspflicht und Bürgerbeteiligung und stellt sicher, dass die Menschen gut informiert und befähigt sind, mit den KI-Systemen zu interagieren, die ihr Leben beeinflussen. Dies fördert nicht nur ein besseres Verständnis der Funktionsweise von KI-Algorithmen, sondern fördert auch eine kollaborativere und konstruktivere Beziehung zwischen Verwaltung und Bürgern bei der Schaffung und Umsetzung effizienterer, sicherer und integrativer Dienste.
