Das dritte Online-Treffen des DPD ermöglichte es dem AOC, den Fortschritt des Berichts vorzustellen. transparència algorithmischer (TRAL) Ansatz und vergleichen Sie diesen mit dem von Datenschutzexperten. Arbeitsgruppe für ethische und verantwortungsvolle KI arbeitet seit einem Jahr an der Weiterentwicklung dieses Berichts hin zu einem Referenzmodell, das verständliche Informationen für die Bürger mit überprüfbarer Rechenschaftspflicht hinsichtlich der Risiken, Garantien und der Steuerung von Systemen der künstlichen Intelligenz (KI) verbindet.
Das von der APDCAT am 29. Oktober im Biomedical Research Park in Barcelona organisierte Treffen brachte Datenschutzbeauftragte zusammen, um unter anderem die Herausforderungen der digitalen Regulierung und der künstlichen Intelligenz zu erörtern. Carme Callés, Leiterin des Innovationsdienstes, und Patricia Mallén, Datenschutzbeauftragte der AOC, leiteten die Veranstaltung. ein praktischer Workshop und eine Präsentation der Ergebnisse der Arbeitsgruppevereint durch dieselbe Frage: Wie können wir die Risiken, Sicherheitsvorkehrungen und die Steuerung von KI-Systemen, die von beliebigen Organisationen eingesetzt werden, sichtbar, verständlich und überprüfbar machen?
Vom Risiko zur Garantie: Risikomanagement in der Praxis
Am Vormittag führten wir den partizipativen Workshop durch. "Vom Risiko zur Garantie", in der fünfzehn Teilnehmer, aufgeteilt in drei Teams, an einer praktischen Fallstudie arbeiteten: ein Stadtrat, der generative KI einsetzt, um die Anonymisierung von Plenarsitzungen vorzubereiten, bevor diese auf dem Portal veröffentlicht werden. transparènciaDie Herausforderung bestand darin, die transparència und das Recht auf Zugang zu öffentlichen Informationen unter Wahrung des Schutzes personenbezogener Daten.
Ausgehend von diesem Szenario bearbeiteten wir zwei sehr konkrete Fragestellungen:
- Was könnte schiefgehen? (Risiken)
- Was können wir tun, um diese Risiken zu verhindern oder zu verringern? (Maßnahmen und Garantien)
Priorisierung generierte int-ÜbereinstimmungeneresSaints. Zwei der drei Teams, die zu den Hauptrisiken gezählt werden, sind die Tatsache, dass Die KI erkennt keine personenbezogenen Daten, die anonymisiert werden sollten.Alle drei priorisierten auch die Risiko der Aufhebung der Anonymisierung Dies wurde nach Veröffentlichung des Protokolls angewendet. Weitere wichtige Bedenken betrafen das übermäßige Vertrauen des Gutachters in die Ergebnisse der KI, die unerlaubte Wiederverwendung von Dokumenten durch den Modellanbieter und die versehentliche Veröffentlichung einer nicht validierten Version.
Die vorgeschlagenen Antworten zeigen deutlich, dass Ein Risiko kann mehrere Maßnahmen erfordern, und dieselbe Maßnahme kann zur Kontrolle verschiedener Risiken beitragen.Eine effektive menschliche Überprüfung, die Sperrung von Veröffentlichungen ohne Validierung, klare Kriterien für die Anonymisierung, Benutzerschulungen, irreversible Anonymisierung, Tests mit verschiedenen Formaten sowie Zugriffskontrollen oder vertragliche Garantien hinsichtlich der Wiederverwendung von Dokumenten waren eines der Prinzipien des vorgeschlagenen Verfahrens.
Die Debatte war so ergiebig, dass wir die dritte Aktivität, die dem Thema gewidmet war, nicht mehr abschließen konnten. erläutern Sie dieses Risikomanagement der Öffentlichkeit (transparènciaDie Möglichkeit, mehr Zeit für die Auseinandersetzung mit Risiken und Garantien aufzuwenden, erlaubte es uns jedoch, Kriterien zu vergleichen und eingehender zu untersuchen, was auch eines der Ziele des Workshops war.
Ein Jahr Aufbau eines gemeinsamen Referenzmodells
Am Nachmittag präsentierten wir „Von der KI-Verordnung zum TRAL-Bericht: von Verpflichtungen zu einem transparència „Das ist klar.“, um die im letzten Jahr von der Arbeitsgruppe erarbeiteten Ergebnisse zu präsentieren.
Die Gruppe wurde am 30. Oktober 2025 mit dem Ziel gegründet, dieBericht transparència AOC-Algorithmus, das TRAL, und sich in Richtung eines Referenzmodells bewegen, das auf verschiedene Anwendungsfälle und Risikostufen anwendbar ist.
Das neue Modell ist in zwei Schichten aufgebaut:
- Eine Schicht aus transparència für die Bürger, das den Dienst in klarer Sprache erklärt: was er tut, warum er KI einsetzt, wie er funktioniert, was schiefgehen kann, was wir tun, um dies zu vermeiden, und wer dafür verantwortlich ist.
- Eine Ebene der Steuerung und Rechenschaftspflicht, welche detaillierter die Daten, den Betrieb, die rechtliche Qualifikation und die regulatorischen Garantien, die menschliche Aufsicht, das Risikomanagement, die Überwachung und die verfügbaren Beweise dokumentiert.
Dadurch wird nicht nur sichtbar und überprüfbar, dass eine Organisation KI einsetzt, sondern auch, wie sie dieses System steuert und wie sie mit den dadurch entstehenden Risiken umgeht.
Und es gibt einen wichtigen Unterschied: Die TRAL ersetzt keine Datenschutz-Folgenabschätzung (DSFA), keine Grundrechte-Folgenabschätzung (FRIA), keine Rechtsanalysen, keine technische Dokumentation und keine anderen anwendbaren Bewertungen und Verpflichtungen.Im Gegenteil: Es ergänzt sie, indem es die von diesen Instrumenten generierten Informationen und Erkenntnisse nutzt und sie aus der Perspektive von transparència und trägt dazu bei, die übernommenen Garantien auf verständliche Weise zu erläutern.
Genau, eines dereres Ziel der Gruppe wird es sein, das neue TRAL-Modell für risikoreiche KI-Systeme fertigzustellen, seine Risikomanagementmethodik anzupassen und zu untersuchen, wie eine Synthese der FRIA-Ergebnisse angemessen integriert werden kann. transparència.
Von der Werkstatt zum TRAL
Die Nachmittagspräsentation ermöglichte es uns, den Kreis mit der Arbeit des Vormittags zu schließen.
Als die Teilnehmenden mögliche Risiken identifizierten, folgten sie derselben Logik wie in Abschnitt 1.6 des TRAL. Und als sie erörterten, wie Risiken verhindert oder reduziert werden könnten, legten sie den Grundstein für Abschnitt 1.7. Diese Abschnitte der Bürgerebene basieren auf der detaillierteren Analyse von Risiken, Maßnahmen und Erkenntnissen, die in der Ebene „Governance und Rechenschaftspflicht“ dokumentiert sind.
Die Teilnehmer erstellten nicht den gesamten TRAL-Bericht, sondern nur einen Teil seines Kerns: Wir identifizieren unsere Sorgen, entscheiden, wie wir sie kontrollieren können, und bereiten uns darauf vor, sie erklären zu können..
Transparència zur Rechenschaft gezogen werden
Das dritte Online-Treffen des DPD hat es uns ermöglicht, das Modell mit Datenschutzexperten zu vergleichen und den Aufbau fortzusetzen, der unserer Meinung nach kollektiv, multidisziplinär und an die Realität der öffentlichen Verwaltung anpassbar sein soll.
Die Herausforderung besteht nun darin, diese Methodik weiterhin in ein Werkzeug umzuwandeln. nützlich, verständlich, überprüfbar und wiederverwendbar, was uns dabei hilft, KI-Governance in eine zu verwandeln transparència wirksam und sinnvoll für die Bürger.
