Veröffentlichen Sie eine Plenarsitzung auf dem Portal von transparència Es mag wie ein einfacher Prozess erscheinen. Doch bevor die Informationen veröffentlicht werden, müssen sie geprüft und alle personenbezogenen Daten, die nicht veröffentlicht werden sollen, anonymisiert werden. Dies erfordert eine Einzelfallentscheidung darüber, welche Informationen sichtbar bleiben und welche geschützt werden müssen. Diese Entscheidung hängt nicht immer von der Art der Daten ab, sondern vom Kontext, in dem sie erscheinen.
Diese Aufgabe kann einen erheblichen manuellen Prüfaufwand und gleichzeitig ein Fehlerrisiko mit sich bringen, das zur versehentlichen Veröffentlichung personenbezogener Daten führen könnte. Aus diesem Grund haben wir im AOC folgende Möglichkeiten untersucht: Wie generative künstliche Intelligenz auf agile und zuverlässige Weise zur Anonymisierung beitragen kann, wobei der Inhalt der Dokumente interpretiert und automatisch vorgeschlagen wird, welche Informationen anonymisiert werden müssen, stets unter der abschließenden Aufsicht einer Person.
Anonymisierung, die den Kontext versteht
Der Hauptvorteil der entwickelten Lösung liegt in ihrer Fähigkeit, den Kontext des Dokuments interpretieren, über die Erkennung von Daten auf Basis vordefinierter Muster oder Entitätserkennungssysteme hinaus.
Dies ermöglicht es beispielsweise, zwischen dem Namen eines gewählten Amtsträgers, der in einer Plenarsitzung öffentlich genannt werden muss, und dem Namen einer natürlichen Person zu unterscheiden, die in einem anderen Kontext erscheint und deren Anonymisierung erforderlich sein kann. Ebenso kann ein Datum Teil institutioneller Informationen sein, die veröffentlicht werden müssen, oder es kann sich um personenbezogene Daten handeln, die geschützt werden müssen.
Musterbasierte oder Entitätserkennungsverfahren sind weiterhin nützlich, um bestimmte Datentypen zu identifizieren. Sie können jedoch nicht immer bestimmen, ob ein bestimmtes Datenelement anonymisiert werden sollte, da diese Entscheidung von seiner Funktion innerhalb des Dokuments abhängen kann. Der AOC-Vorschlag zielt darauf ab, diesen Eingriff durch die Kombination verschiedener Verfahren zu reduzieren. Qualität bei Erkennung, Kontextintelligenz und Automatisierung, ohne die menschliche Kontrolle über die endgültige Entscheidung zu verlieren.
KI mit menschlicher Aufsicht
Der Prozess ist einfach: Der Nutzer lädt das Protokoll hoch, wählt die Anonymisierungskriterien aus und startet die Analyse. Das System interpretiert das Dokument und erstellt einen anonymisierten Vorschlag. Anschließend überprüft der Nutzer die Masken, ändert sie oder fügt bei Bedarf neue hinzu und lädt das Dokument zur Veröffentlichung herunter.
Dieses Modell der menschlichen Überwachung ermöglicht die Nutzung der Automatisierungskapazität von KI, ohne die rechtlichen Kriterien der Verwaltungen zu ersetzen. Die Plattform beinhaltet zudem Positivlisten, um übermäßige Anonymisierung zu vermeiden, sowie Rückverfolgbarkeits- und Nachvollziehbarkeitsmechanismen, die eine Überprüfung der angewandten Kriterien ermöglichen.
Eine Gesamtgenauigkeit von 96 %
Der Machbarkeitsnachweis wurde anhand von 52 Dokumenten aus neun Gemeinden sowie durch mehrere interne Tests des AOC validiert. Die Ergebnisse zeigen, dass 96 % Gesamtgenauigkeit, das heißt, Die überwiegende Mehrheit der Daten, die das System anonymisieren möchte, wird korrekt identifiziert.Der F1-Indikator, der Genauigkeit und Abdeckung (die Fähigkeit, alle zu anonymisierenden Daten zu erfassen) kombiniert, liegt bei über 90 %.
Diese Ergebnisse bestätigen die technische und funktionale Machbarkeit des Vorschlags sowie das Potenzial der Kombination von generativer KI und menschlicher Aufsicht zur Reduzierung des Arbeitsaufwands und des Risikos einer versehentlichen Offenlegung personenbezogener Daten.
Auf dem Weg zu einem zukünftigen gemeinsamen Dienst
Der Test hat es uns auch ermöglicht, Verbesserungspotenziale zu identifizieren, insbesondere hinsichtlich der Erkennungsabdeckung in komplexen Dokumenten und der Skalierbarkeit der Lösung.
Der Proof of Concept (PoC) ist nun abgeschlossen und hat das Potenzial des Ansatzes bestätigt. Die Weiterführung der Initiative wird derzeit vertraglich geregelt. Ein Pilotprojekt mit erweitertem Umfang soll die kontinuierliche Verbesserung der Lösung und die Entwicklung hin zu einem möglichen gemeinsamen Dienst für Kommunen ermöglichen.
