Herausforderung

Wie können wir Stadträte dabei unterstützen, die Protokolle ihrer Plenarsitzungen schnell und zuverlässig zu anonymisieren, um personenbezogene Daten zu schützen, ihre Veröffentlichung zu erleichtern und die Einhaltung der Vorschriften zu gewährleisten?

Kontext und Problem

Das AOC stellt digitale Dienste für Kommunalverwaltungen bereit, die häufig die Veröffentlichung von Verwaltungsdokumenten mit potenziell sensiblen Inhalten beinhalten. In diesem Zusammenhang ist die Anonymisierung personenbezogener Daten vor der Veröffentlichung ein Schlüsselelement, um die Einhaltung der Datenschutzbestimmungen zu gewährleisten und Risiken für die Privatsphäre Einzelner zu minimieren.

Eines der wichtigsten representaDies sind die Protokolle der Plenarsitzungen der Gemeinde, die die lokalen Einrichtungen proaktiv auf den Portalen von veröffentlichen müssen. transparència, in Übereinstimmung mit Gesetz 19/2014, transparènciaZugang zu öffentlichen Informationen und gute Regierungsführung. Erst im Jahr 2024 wurden veröffentlicht mehr als 8.000 Plenarsitzungen auf dem Portal von transparència des AOC.

Diese Protokolle können personenbezogene Daten enthalten, die nicht der Veröffentlichung unterliegen, wie z. B. Namen von Personen, Ausweisdaten, Adressen, E-Mail-Adressen oder Bankverbindungen. Ihre Überprüfung erfordert die Unterscheidung, welche Informationen öffentlich bleiben und welche geheim gehalten werden sollten, um die Rechte der betroffenen Personen zu schützen.Diese Entscheidung hängt nicht nur von der Art der Daten ab, sondern auch vom Kontext, in dem sie im Dokument erscheinen. Es handelt sich um eine Aufgabe, die Zeit, Kenntnisse der Vorschriften und sorgfältige rechtliche Kriterien erfordert.

Beispielsweise muss der Name eines gewählten Amtsträgers in einer Plenarsitzung nicht anonymisiert werden, der Name einer von einem Sanktionsbeschluss betroffenen Person hingegen schon. Ebenso ist ein Geburtsdatum ein personenbezogenes Datum, das in der Regel anonymisiert werden muss, während das Datum eines Verwaltungsakts zu den Informationen gehört, die öffentlich zugänglich bleiben müssen.

Wenn dieser Vorgang manuell durchgeführt wird, erhöht die Arbeitsbelastung der zuständigen Teams und auch das Risiko, dass einige personenbezogene Daten unfreiwillig offengelegt werdenDies hat Konsequenzen hinsichtlich der Einhaltung der Datenschutz-Grundverordnung (DSGVO). Wird zudem festgestellt, dass personenbezogene Daten unrechtmäßig veröffentlicht wurden, muss das Dokument zurückgezogen, korrigiert und eine neue Version veröffentlicht werden – ein langwieriges Verfahren, das die AOC praktisch wöchentlich durchführen muss.

In diesem Zusammenhang prüfte das AOC im Jahr 2025, ob künstliche Intelligenztechnologien diesen Prozess unterstützen könnten, indem sie den Mitarbeitern der Gemeinde helfen, personenbezogene Daten zu identifizieren, die anonymisiert werden müssen, und dabei stets die menschliche Aufsicht über die endgültige Entscheidung gewährleisten.

Vorgeschlagene Lösung

Um auf dieses Problem zu reagieren, hat das AOC einen Machbarkeitsnachweis (Proof of Concept, PoC) ins Leben gerufen, um zu überprüfen, ob generative KI die Anonymisierung der Protokolle kommunaler Plenarsitzungen vor deren Veröffentlichung auf dem Portal automatisieren kann. transparència.

Die Initiative untersucht, wie die Fähigkeit generativer KI, den Kontext von Dokumenten zu interpretieren, mit menschlicher Aufsicht kombiniert werden kann, um den mit diesem Prozess verbundenen Arbeitsaufwand zu reduzieren, die Risiken der Offenlegung personenbezogener Daten zu minimieren und die Einhaltung der Datenschutzbestimmungen zu gewährleisten.

Ziel ist es nicht, die rechtlichen Kriterien der Verwaltungen zu ersetzen, sondern Wir bieten ein Unterstützungstool an, das automatisch personenbezogene Daten erkennt und eine Anonymisierung vorschlägt, die anschließend von einer Person vor der Veröffentlichung des Dokuments bestätigt wird. Dieser Ansatz ermöglicht es Ihnen, die Vorteile der KI zu nutzen und gleichzeitig die menschliche Kontrolle über die endgültige Entscheidung zu behalten.

Der Machbarkeitsnachweis wurde als System mit minimalem Risiko konzipiert: Die KI trifft keine automatisierten Entscheidungen über Personen und beeinträchtigt nicht deren Rechte, sondern dient ausschließlich als Unterstützungsinstrument zur Transformation von Dokumenten vor der Veröffentlichung.

Was ist die Lösung?

Der Machbarkeitsnachweis besteht aus einer Cloud-Webplattform, die generative KI-Modelle nutzt, um personenbezogene Daten in Plenarsitzungen zu identifizieren und zu anonymisieren.

Im Gegensatz zu herkömmlichen Systemen, die ausschließlich auf vordefinierten Mustern basieren, Die Plattform interpretiert den Kontext des Dokuments Es gilt zu unterscheiden zwischen Informationen, die öffentlich zugänglich sein sollten – etwa solche über gewählte Amtsträger oder institutionelle Aktivitäten – und solchen, die aufgrund ihrer personenbezogenen Daten geschützt werden müssen. Diese Fähigkeit ist besonders relevant, da die Entscheidung zur Anonymisierung von Informationen oft vom Kontext abhängt und nicht allein von der Art der Daten.

Die Lösung beinhaltet mehrere Mechanismen, um die Qualität und Zuverlässigkeit des Prozesses zu gewährleisten:

  • Kontextbezogene Erkennung personenbezogener Daten, basierend auf generativer KI.
  • Whitelists, die es ermöglichen, bestimmte Begriffe von der Anonymisierung auszuschließen, um eine Überanonymisierung zu vermeiden.
  • Menschliche Aufsicht („Mensch im Spiel“Das System schlägt also lediglich die Anonymisierungen vor, und es ist der Benutzer, der diese vor der Veröffentlichung des Dokuments prüft und bestätigt.
  • Rückverfolgbarkeit und ErklärbarkeitDie bei jeder Anonymisierung angewandten Kriterien werden protokolliert, um den Prozess nachvollziehbar und auditierbar zu machen.

Wie es funktioniert?

Der Anonymisierungsprozess ist in vier einfache Schritte unterteilt:

  1. Der Benutzer lädt das Dokument (PDF oder DOCX) auf die Plattform hoch.
  2. Wählen Sie die Anonymisierungskriterien aus, die Sie anwenden möchten (Vor- und Nachnamen, Ausweisdaten, Adressen, Daten, Telefonnummern, Bankkonten usw.) und starten Sie den Vorgang.
  3. Das System analysiert das Dokument, interpretiert den Kontext der Informationen und erstellt einen Vorschlag für ein anonymisiertes Dokument. Dazu identifiziert es die personenbezogenen Daten, die gemäß den ausgewählten Kriterien anonymisiert werden sollen, und maskiert sie.
  4. Der Benutzer prüft das Ergebnis, akzeptiert oder ändert die generierten Masken, kann neue erstellen, wenn er nicht anonymisierte personenbezogene Daten entdeckt, und lädt schließlich das zur Veröffentlichung vorbereitete Dokument herunter.

Ergebnisse des Machbarkeitsnachweises

Der Machbarkeitsnachweis wurde validiert mit 52 Dokumente, bereitgestellt von 9 GemeindenErgänzt wurde dies durch zahlreiche interne Tests, die das AOC während der Entwicklung der Lösung durchgeführt hat. Der Validierungsprozess ermöglichte die Bewertung sowohl der Qualität der Anonymisierung als auch des Verhaltens der Plattform in realen Nutzungssituationen.

Die erzielten Ergebnisse bestätigen die technische und funktionale Machbarkeit des Vorschlags sowie die Eignung des Modells, das auf der Kombination von generativer künstlicher Intelligenz und menschlicher Überwachung basiert. Insbesondere hat die Validierung Folgendes ermöglicht:

  • Die Plattform erreicht eine Gesamtgenauigkeit von 96 %.Das heißt, wenn das System ein zu anonymisierendes Datenelement identifiziert, geschieht dies in der Regel korrekt, wodurch die Notwendigkeit, Fehlalarme zu überprüfen, reduziert wird.
  • Der Gesamt-F1-Indikator, der die Genauigkeit und die Abdeckung der Erkennung personenbezogener Daten in einer einzigen Qualitätskennzahl vereint, liegt bei über 90 %. Im letzteneres Die PoC-Iterationen haben insgesamt ein Qualitätsniveau von über 95 % erreicht.
  • Die Kombination aus KI und menschlicher Aufsicht Es handelt sich um ein effektives Modell, um den manuellen Aufwand zu reduzieren und gleichzeitig die notwendigen Garantien vor der Veröffentlichung von Dokumenten aufrechtzuerhalten.

Der Machbarkeitsnachweis diente auch dazu, die wichtigsten Herausforderungen zu identifizieren, die vor einem möglichen Produktionseinsatz bewältigt werden müssen:

  • Erhöhung der Erkennungsabdeckung (Erinnern) um die Fälle zu reduzieren, in denen einige personenbezogene Daten nicht anonymisiert bleiben, insbesondere in Dokumenten mit komplexen oder heterogenen Strukturen.
  • Die Lösungsarchitektur weiterentwickeln um die Skalierbarkeit, Leistung und Effizienz zu verbessern und so einen nachhaltigen, gemeinsam genutzten Dienst für eine große Anzahl von Verwaltungen zu ermöglichen.
  • Das Training und die Verfeinerung der Modelle fortsetzen. auf der Grundlage der erzielten Ergebnisse und neuer Validierungen mit realen Dokumenten, unter Einbeziehung der während der Benutzerprüfung gewonnenen Erkenntnisse.

In diesem Sinne hat uns der Proof of Concept (PoC) auch ermöglicht, die Weiterentwicklung der Lösungsarchitektur zu definieren. Die aktuelle Version löst den gesamten Anonymisierungsprozess mithilfe eines einzigen leistungsstarken generativen KI-Modells. Dies ist zwar ein geeigneter Ansatz zur Validierung der Machbarkeit der Lösung, aber für den großflächigen Einsatz nicht sehr effizient. Die erwartete Weiterentwicklung trennt die Identifizierung personenbezogener Daten von der Entscheidung, welche Daten kontextbezogen anonymisiert werden sollen.So kann in jeder Phase die jeweils geeignetsten und effizientesten KI-Modelle genutzt werden. Diese Weiterentwicklung wird die Skalierbarkeit, Leistungsfähigkeit und Nachhaltigkeit des zukünftigen Shared Service verbessern.

Insgesamt bestätigt der Machbarkeitsnachweis, dass dieser Ansatz realisierbar ist und eine solide Grundlage für die Weiterentwicklung der Lösung hin zu einem zukünftigen Produktionseinsatz bietet.

Ressourcen und Zusammenarbeit

Der Machbarkeitsnachweis wurde gemeinsam von der AOC, die für die funktionale Leitung des Projekts verantwortlich ist, dem Technologieunternehmen OMNIOS, das für die Entwicklung der Plattform und die Analyse der Ergebnisse zuständig ist, und 9 Stadträten entwickelt, die reale Dokumente zur Validierung der Lösung in einem realen Umfeld bereitgestellt haben. representaVerwendung von.

Die Plattform wurde seit ihrer Konzeption gemäß den folgenden Prinzipien entwickelt: Sicherheitsprinzipien transparènciaRückverfolgbarkeit und menschliche Aufsicht speziell für KI-Systeme im öffentlichen Sektor, mit dem Ziel, ein Anonymisierungsmodell zu untersuchen unterstützt durch künstliche Intelligenz das sich zu einem zukünftigen gemeinsamen Dienst für lokale Verwaltungen weiterentwickeln kann.

Wert für lokale Entitäten

Der Machbarkeitsnachweis unterstreicht das Potenzial generativer KI zur Unterstützung administrativer Prozesse, die einen hohen Aufwand an Dokumentenprüfung und sorgfältiger juristischer Beurteilung erfordern. Sollte sich die Lösung zu einem gemeinsamen Dienst weiterentwickeln, könnte sie den Kommunen erhebliche Vorteile bringen.

  • Verringerung des Risikos einer versehentlichen Offenlegung personenbezogener Datenwodurch die Wahrscheinlichkeit minimiert wird, Informationen zu veröffentlichen, die nicht öffentlich zugänglich sein sollten.
  • Zeit sparen und Effizienz steigern, Automatisierung eines Großteils des Datenidentifizierungsprozesses persönliche und reduzierende manuelle Überprüfung.
  • Größere Homogenität bei der Anwendung der Anonymisierungskriterienum eine einheitlichere Behandlung zwischen den verschiedenen Regierungen zu fördern.
  • Mehr Garantien für Rückverfolgbarkeit und AuditierungDank der Erfassung der durchgeführten Anonymisierungen und der angewandten Kriterien.
  • Fähigkeit zur kontinuierlichen Verbesserung der Lösungunter Einbeziehung von Nutzereingaben und Fortschritten bei immer leistungsfähigeren KI-Modellen.

Schlussfolgerungen

Der Machbarkeitsnachweis ermöglichte die Validierung der technischen und funktionalen Machbarkeit eines auf generativer künstlicher Intelligenz basierenden Tools zur Unterstützung der Anonymisierung der Protokolle kommunaler Plenarsitzungen vor deren Veröffentlichung.

Die erzielten Ergebnisse zeigen, dass die Kombination aus automatischer Erkennung und menschlicher Überwachung ein geeigneter Ansatz ist, um die Arbeitsbelastung der lokalen Stellen zu verringern und das Risiko der Offenlegung personenbezogener Daten zu reduzieren, während gleichzeitig die notwendigen Garantien in einem Prozess dieser Art aufrechterhalten werden.

Der Proof of Concept (PoC) ermöglichte zudem die Identifizierung der wichtigsten Verbesserungspotenziale vor einem möglichen Produktiveinsatz, insbesondere bei der Erkennung bestimmter Arten personenbezogener Daten in komplexen Dokumenten und der Integration der Lösung in die AOC-Dienste. Der PoC bildet eine solide Grundlage für die Weiterentwicklung des Projekts und die Bewertung seiner Transformation zu einem zukünftigen Shared Service für Kommunalverwaltungen.

Projekt-Status

Machbarkeitsstudie durchgeführt und Potenzial validiert. Die Kontinuität der Initiative wird derzeit durch die Durchführung eines Pilotprojekts mit größerem Umfang vertraglich sichergestellt.

Weitere Informationen

AOC-Blog:

Präsentationen und Artikel:

Videos: