Uitdaging

Hoe kunnen we gemeenteraden helpen om de notulen van gemeenteraadsvergaderingen snel en betrouwbaar te anonimiseren, zodat persoonsgegevens worden beschermd, de publicatie ervan wordt vergemakkelijkt en de naleving van de regelgeving wordt gewaarborgd?

Context en probleem

De AOC levert digitale diensten aan lokale overheden, waarbij vaak bestuurlijke documenten met mogelijk gevoelige inhoud worden gepubliceerd. In deze context is het anonimiseren van persoonsgegevens vóór publicatie een essentieel element om te voldoen aan de wetgeving inzake gegevensbescherming en risico's voor de privacy van individuen te beperken.

Een van de meest representaDit zijn de notulen van de plenaire vergaderingen van de gemeente, die lokale overheden proactief moeten publiceren op de portalen van transparència, in overeenstemming met Wet 19/2014, van transparència, toegang tot publieke informatie en goed bestuur. Pas in 2024 werden ze gepubliceerd. meer dan 8.000 plenaire sessies op het portaal van transparència van de AOC.

Deze notulen kunnen persoonsgegevens bevatten die niet voor publicatie in aanmerking komen, zoals namen van personen, identiteitskaarten, adressen, e-mailadressen of bankgegevens. Hun beoordeling Het vereist een onderscheid tussen welke informatie openbaar moet blijven en welke geheim moet blijven om de rechten van de betrokkenen te beschermen.Deze beslissing hangt niet alleen af ​​van het type gegevens, maar ook van de context waarin ze in het document voorkomen. Het is een taak die tijd, kennis van de regelgeving en zorgvuldige juridische criteria vereist.

Zo hoeft bijvoorbeeld de naam van een gekozen functionaris in een plenaire vergadering niet geanonimiseerd te worden, terwijl de naam van een persoon die het doelwit is van een sanctiebesluit dat wel moet. Evenzo is een geboortedatum een ​​persoonsgegevensitem dat doorgaans geanonimiseerd moet worden, terwijl de datum van een administratieve handeling onderdeel is van de informatie die openbaar moet blijven.

Wanneer dit proces handmatig wordt uitgevoerd, Dit verhoogt de werkdruk van de verantwoordelijke teams en ook het risico dat bepaalde persoonsgegevens onvrijwillig openbaar worden gemaakt., met alle gevolgen van dien voor de naleving van de Algemene Verordening Gegevensbescherming (AVG). Bovendien moet, wanneer wordt vastgesteld dat persoonsgegevens onrechtmatig zijn gepubliceerd, het document worden ingetrokken, gecorrigeerd en een nieuwe versie worden gepubliceerd. Dit is een tijdrovende procedure die de AOC praktisch wekelijks moet uitvoeren.

In deze context heeft de AOC in 2025 onderzocht of technologieën op het gebied van kunstmatige intelligentie dit proces zouden kunnen ondersteunen, door gemeentepersoneel te helpen bij het identificeren van persoonsgegevens die geanonimiseerd moeten worden, waarbij menselijk toezicht op de uiteindelijke beslissing altijd behouden blijft.

Voorgestelde oplossing

Om dit probleem aan te pakken, heeft de AOC een proof of concept (PoC) gelanceerd om te valideren of generatieve AI het anonimiseren van de notulen van gemeentelijke plenaire vergaderingen kan automatiseren voordat deze op het portaal worden gepubliceerd. transparència.

Het initiatief onderzoekt hoe de mogelijkheden van generatieve AI om de context van documenten te interpreteren, gecombineerd kunnen worden met menselijk toezicht. Het doel is om de werkdruk te verlagen, de risico's op openbaarmaking van persoonsgegevens te minimaliseren en te zorgen voor naleving van de wetgeving inzake gegevensbescherming.

Het doel is niet om de wettelijke criteria van de overheden te vervangen, maar Een ondersteuningstool aanbieden die automatisch persoonsgegevens detecteert en anonimisering voorstelt, die vervolgens door een persoon wordt gevalideerd voordat het document wordt gepubliceerd. Deze aanpak stelt je in staat om te profiteren van de voordelen van AI, terwijl de mens de uiteindelijke beslissing blijft nemen.

Het concept is ontworpen als een systeem met minimaal risico: AI neemt geen geautomatiseerde beslissingen over mensen of tast hun rechten aan, maar fungeert uitsluitend als hulpmiddel om documenten te bewerken vóór publicatie.

Wat is de oplossing?

Het proof of concept bestaat uit een cloudwebplatform dat gebruikmaakt van generatieve AI-modellen om persoonlijke gegevens in plenaire sessies te identificeren en te anonimiseren.

In tegenstelling tot traditionele systemen die uitsluitend gebaseerd zijn op vooraf gedefinieerde patronen, Het platform interpreteert de context van het document. Het onderscheid maken tussen informatie die openbaar moet blijven – zoals informatie over gekozen functionarissen of institutionele activiteiten – en informatie die beschermd moet worden omdat het persoonsgegevens betreft. Dit vermogen is met name relevant omdat de beslissing om informatie te anonimiseren vaak afhangt van de context waarin deze verschijnt en niet alleen van het type gegevens.

De oplossing omvat verschillende mechanismen om de kwaliteit en betrouwbaarheid van het proces te garanderen:

  • Contextuele detectie van persoonsgegevens, gebaseerd op generatieve AI.
  • Witte lijsten, waardoor bepaalde termen van anonimisering kunnen worden uitgesloten om overmatige anonimisering te voorkomen.
  • Menselijk toezicht (“mens-in-de-lus”Het systeem doet dus alleen suggesties voor anonimisering, en de gebruiker beoordeelt en valideert deze voordat het document wordt gepubliceerd.
  • Traceerbaarheid en verklaarbaarheidwaarbij de criteria die bij elke anonimisering zijn toegepast, worden vastgelegd, zodat het proces kan worden gecontroleerd en geaudit.

Hoe het werkt?

Het anonimiseringsproces is opgebouwd uit vier eenvoudige stappen:

  1. De gebruiker uploadt het document (PDF of DOCX) naar het platform.
  2. Selecteer de anonimiseringscriteria die u wilt toepassen (namen en achternamen, identiteitsbewijs, adressen, datums, telefoonnummers, bankrekeningen, enz.) en start het proces.
  3. Het systeem analyseert het document, interpreteert de context van de informatie en genereert een voorstel voor een geanonimiseerd document. Hiervoor identificeert het de persoonsgegevens die, volgens de geselecteerde criteria, geanonimiseerd moeten worden en verbergt deze met behulp van maskers.
  4. De gebruiker bekijkt het resultaat, accepteert of wijzigt de gegenereerde maskers, kan nieuwe maskers aanmaken als hij persoonsgegevens aantreft die niet geanonimiseerd zijn en downloadt ten slotte het document dat klaar is voor publicatie.

Resultaten van de proof-of-concept-studie

Het concept is gevalideerd met 52 documenten aangeleverd door 9 gemeentenDit werd aangevuld met meerdere interne tests die de AOC tijdens de ontwikkeling van de oplossing heeft uitgevoerd. Het validatieproces heeft het mogelijk gemaakt om zowel de kwaliteit van de anonimisering als het gedrag van het platform in reële gebruikssituaties te evalueren.

De verkregen resultaten bevestigen de technische en functionele haalbaarheid van het voorstel, evenals de geschiktheid van het model gebaseerd op de combinatie van generatieve kunstmatige intelligentie en menselijke supervisie. De validatie heeft ons met name in staat gesteld te verifiëren dat:

  • Het platform behaalt een algehele nauwkeurigheid van 96%.Dat wil zeggen dat wanneer het systeem een ​​gegeven identificeert dat geanonimiseerd moet worden, het dit meestal correct doet, waardoor de noodzaak om valse detecties te controleren afneemt.
  • De algemene F1-indicator, die de nauwkeurigheid en de dekking van de detectie van persoonsgegevens combineert tot één kwaliteitsmaatstaf, is hoger dan 90%. In de laatsteeres De PoC-iteraties hebben een algehele kwaliteit van meer dan 95% behaald.
  • De combinatie van AI en menselijk toezicht. Het is een effectief model om handmatige inspanningen te verminderen en tegelijkertijd de noodzakelijke garanties te behouden voordat documenten worden gepubliceerd.

Het proof of concept heeft tevens geholpen om de belangrijkste uitdagingen in kaart te brengen die moeten worden aangepakt voordat een uiteindelijke implementatie in productie kan plaatsvinden:

  • Verhoog de detectiedekking (Terugroepen) om het aantal gevallen te verminderen waarin bepaalde persoonsgegevens niet geanonimiseerd blijven, met name in documenten met een complexe of heterogene structuur.
  • Ontwikkel de oplossingsarchitectuur verder. om de schaalbaarheid, prestaties en efficiëntie te verbeteren, waardoor een duurzame gedeelde dienst voor een groot aantal overheden mogelijk wordt.
  • De modellen blijven trainen en verfijnen. Op basis van de verkregen resultaten en nieuwe validaties met echte documenten, waarbij de kennis die tijdens de gebruikersbeoordeling is opgedaan, is verwerkt.

In die zin heeft de Proof of Concept ons ook in staat gesteld te bepalen hoe de architectuur van de oplossing zich zou moeten ontwikkelen. De huidige versie lost het volledige anonimiseringsproces op met behulp van één krachtig generatief AI-model. Dit is een adequate aanpak om de haalbaarheid van de oplossing te valideren, maar niet erg efficiënt voor grootschalige implementatie. De verwachte evolutie Het scheidt de identificatie van persoonsgegevens van de beslissing welke gegevens geanonimiseerd moeten worden op basis van de context.Zodat in elke fase de meest geschikte en efficiënte AI-modellen kunnen worden gebruikt. Deze ontwikkeling zal de schaalbaarheid, prestaties en duurzaamheid van de toekomstige gedeelde dienst verbeteren.

Al met al bevestigt de proof of concept dat deze aanpak haalbaar is en een solide basis biedt om de oplossing verder te ontwikkelen richting toekomstige implementatie in een productieomgeving.

Bronnen en samenwerking

Het proof of concept is gezamenlijk ontwikkeld door de AOC, verantwoordelijk voor de functionele leiding van het project; het technologiebedrijf OMNIOS, belast met de ontwikkeling van het platform en de analyse van de resultaten; en 9 gemeenteraden, die concrete documenten hebben aangeleverd om de oplossing in een praktijksituatie te valideren. representagebruik van.

Het platform is vanaf het begin ontworpen in overeenstemming met de beveiligingsprincipes, transparència, traceerbaarheid en menselijk toezicht specifiek voor AI-systemen die worden toegepast in de publieke sector, met als doel een anonimiseringsmodel te onderzoeken. ondersteund door kunstmatige intelligentie dat zich kan ontwikkelen tot een toekomstige gedeelde dienst voor lokale overheden.

Waarde voor lokale entiteiten

Het proof-of-concept laat het potentieel zien van generatieve AI ter ondersteuning van administratieve processen die een hoge werkdruk met zich meebrengen wat betreft documentbeoordeling en zorgvuldige juridische beoordeling. Als de oplossing zich ontwikkelt tot een gedeelde dienst, kan dit aanzienlijke voordelen opleveren voor lokale overheden.

  • Het risico op onbedoelde openbaarmaking van persoonsgegevens verkleinen.waardoor de kans kleiner wordt dat informatie wordt gepubliceerd die niet voor het publiek toegankelijk zou moeten zijn.
  • Tijd besparen en de efficiëntie verbeteren, het automatiseren van een groot deel van het data-identificatieproces persoonlijke en minder handmatige beoordeling.
  • Grotere homogeniteit in de toepassing van anonimiseringscriteriawaardoor een meer samenhangende behandeling tussen de verschillende toedieningen wordt bevorderd.
  • Meer garanties voor traceerbaarheid en controle., dankzij de registratie van de uitgevoerde anonimiseringen en de toegepaste criteria.
  • Vermogen om de oplossing continu te verbeterenwaarbij rekening wordt gehouden met input van gebruikers en de vooruitgang in steeds krachtigere AI-modellen.

Conclusies

Het proof of concept heeft de technische en functionele haalbaarheid aangetoond van een tool gebaseerd op generatieve kunstmatige intelligentie ter ondersteuning van de anonimisering van de notulen van gemeentelijke plenaire vergaderingen vóór publicatie.

De verkregen resultaten tonen aan dat de combinatie van automatische detectie en menselijk toezicht een geschikte aanpak is om de werkdruk van lokale instanties te verlagen en het risico op openbaarmaking van persoonsgegevens te verminderen, terwijl de noodzakelijke waarborgen in een dergelijk proces behouden blijven.

De proof-of-concept heeft ook de belangrijkste verbeterpunten in kaart gebracht vóór een mogelijke implementatie in productie, met name op het gebied van de detectie van bepaalde soorten persoonsgegevens in complexe documenten en de integratie van de oplossing met de diensten van de AOC (Autorité de la Occupié de la Occupié). De proof-of-concept biedt een solide basis om het project verder te ontwikkelen en de transformatie ervan naar een toekomstige gedeelde dienst voor lokale overheden te beoordelen.

Project status

Proof of Concept uitgevoerd en potentieel gevalideerd. De voortzetting van het initiatief wordt momenteel vastgelegd in een contract voor een pilotproject met een bredere scope.

meer informatie

AOC-blog:

Presentaties en artikelen:

Videos: