Das AOC nahm am Macro-Workshop zum Thema Künstliche Intelligenz des internen technischen Komitees des spanischen Smart Cities Network (RECI) teil, der am 14. September in Malaga stattfand, und teilte seine Erfahrungen im Bereich Governance. transparència und die Verantwortlichkeit von KI-Systemen.
Wie gelingt der Übergang von den allgemeinen Prinzipien verantwortungsvoller KI zu einer effektiven Steuerung jedes einzelnen KI-Systems, das wir in einen öffentlichen Dienst integrieren?
Dies war die Frage, die die Carme Callés und er David Pfarreraus Unterabteilung für Strategie und Innovation des AOC, Wir haben am RECI AI Macro-Workshop teilgenommen.
Der Blog, der sich mit der Zukunft und der kommunalen Strategie der KI befasste, schlug einen Weg von der allgemeinen Governance zum konkreten Fall vor: Sant Feliu de Llobregat präsentierte die Karte der zu steuernden Dimensionen; Viladecans, wie diese Dimensionen in einer realen Organisation eingesetzt werden; und von der AOC gingen wir noch eine Ebene tiefer: Wie regulieren wir die einzelnen KI-Systeme, die wir in öffentliche Dienste integrieren?
Wenn wir KI erklären, führt uns das zu ihrer Regulierung.
Bei AOC begannen wir 2023 mit der Zusammenarbeit. Berichte von transparència algorithmisch (TRAL) Ausgehend von einer ganz klaren Frage: Was sollten wir den Bürgern erklären, wenn wir Algorithmen oder künstliche Intelligenz im öffentlichen Dienst einsetzen?
Das Ziel war Diese Systeme verständlicher machen und Vertrauen in öffentliche Dienste aufbauen, die KI nutzen und auf die Verpflichtungen von transparència die in den regulatorischen Rahmen aufgenommen wurden. Das ist der Ursprung unserer Initiative von transparència algorithmisch.
Die Erfahrung hat uns veranlasst, diese Idee erneut zu überdenken: ein KI-System erklären und nachvollziehen zu können. Wir müssen es zunächst verstehen, bewerten, Garantien geben und es überwachen..
Dies beinhaltet die Beantwortung sehr konkreter Fragen: Warum setzen wir KI ein? Mit welchen Daten und Technologien arbeitet sie? Was kann schiefgehen? Welche Rechte können betroffen sein? Welche Garantien bieten wir? Wie überprüfen wir ihre Funktionsfähigkeit? Wer überwacht und trägt die Verantwortung für das System? Und was erklären wir der Öffentlichkeit darüber?
Was also hauptsächlich als ein Werkzeug transparència entwickelt sich zu einem agilen und praktischen Werkzeug, das uns hilft Die Steuerung jedes einzelnen KI-Systems sollte geordnet, dokumentiert und transparent gestaltet werden., von der Konzeption bis zum Ende seines Lebenszyklus.
Allerdings ersetzt die TRAL nicht die gesetzlich vorgeschriebenen Bewertungen und Kontrollen in Bezug auf Datenschutz, Sicherheit oder Grundrechte: Sie ergänzt diese und trägt dazu bei, die verschiedenen Perspektiven und Verantwortlichkeiten bei der Steuerung eines KI-Systems zusammenzuführen.
Die unvollständige TRAL: von der Theorie zur Praxis
Nach der Präsentation haben wir diese Idee mithilfe der Dynamik mit den Teilnehmern auf die Probe gestellt. „Das unvollständige TRAL: Finde die Lücken“.
Die Herausforderung begann mit einem einfachen Fall: Ein Stadtrat nutzt KI, um zu helfen Kommunale Akte vor der Veröffentlichung anonymisieren, ein Anwendungsfall, in dem Das AOC ist bereits in Betrieb.Die KI analysiert das Dokument und schlägt vor, welche Daten ausgeblendet werden sollen. Der Stadtrat prüft das Ergebnis und entscheidet, was veröffentlicht wird.
Die Teilnehmer erhielten eine technische Risikobewertung (TRAL), die auf den ersten Blick vollständig erschien: Sie behandelte Zweck, Daten und Technologie, Risiken, Garantien, Aufsicht und Verantwortlichkeiten. Allerdings enthielt sie zu allgemeine Aussagen: Die Risiken seien „kontrollierbar“, „Maßnahmen zur Fehlerreduzierung“ seien ergriffen worden und das System werde „regelmäßig“ überprüft, ohne jedoch zu spezifizieren, welche Maßnahmen ergriffen wurden, wie diese überprüft wurden, wer die Aufsicht führte oder wer im Fehlerfall reagierte.
Die Teilnehmer organisierten sich in Gruppen und mussten diese Lücken identifizieren und Lösungsvorschläge entwickeln. Die Beiträge wurden in einem großen, gemeinsamen TRAL gesammelt, wodurch gemeinsam eine Übersicht der notwendigen Informationen entstand, um das System zu verstehen, es zu überwachen und die Rechenschaftspflicht für seinen Betrieb einzufordern.
Die richtigen Fragen zu stellen, ist auch eine Regierungsform.
Der Workshop ermöglichte es uns, eine einfache Idee zu testen: Die Erstellung eines TRAL besteht nicht nur aus dem Ausfüllen der Abschnitte eines Formulars.Aber um die Fragen zu formulieren, die wir beantworten müssen, um ein KI-System wirklich steuern zu können:
Verstehen → Bewerten → Sicherstellen → Überwachen → Erklären → Reagieren.
Weil die transparència Algorithmisch bedeutet nicht einfach nur, dass wir KI einsetzen. Es geht darum, erklären zu können, warum wir es verwenden, wie wir es steuern, welche Garantien wir eingebaut haben und wie wir überprüfen, ob sie funktionieren.
Und genau an diesem Schritt arbeiten wir jetzt im AOC: die Weiterentwicklung der Berichte von transparència algorithmisch, so dass sie weiterhin ein Werkzeug sind transparència für die Bürger und gleichzeitig dazu beitragen, die Prinzipien einer ethischen und verantwortungsvollen KI umzusetzen effektive Steuerung jedes Anwendungsfalls.
