Publiceer een plenaire sessie op het portaal van transparència Het lijkt misschien een eenvoudig proces. Maar voordat de gegevens openbaar worden gemaakt, moeten ze worden beoordeeld en moeten alle persoonsgegevens die niet openbaar mogen worden gemaakt, worden geanonimiseerd. Dit vereist een afweging per geval, welke informatie zichtbaar mag blijven en welke beschermd moet worden. En deze afweging hangt niet altijd af van het type gegevens, maar van de context waarin ze verschijnen.
Deze taak kan een aanzienlijke handmatige controle met zich meebrengen en tegelijkertijd een risico op fouten dat kan leiden tot de onbedoelde publicatie van persoonsgegevens. Om die reden hebben we bij de AOC onderzocht... Hoe generatieve kunstmatige intelligentie kan helpen bij het anonimiseren op een flexibele en betrouwbare manier.waarbij de inhoud van de documenten wordt geïnterpreteerd en automatisch wordt voorgesteld welke informatie geanonimiseerd moet worden, altijd onder het uiteindelijke toezicht van een persoon.
Anonimisering die de context begrijpt
De belangrijkste meerwaarde van de ontwikkelde oplossing is het vermogen om interpreteer de context van het document, naast het detecteren van gegevens op basis van vooraf gedefinieerde patronen of entiteitsherkenningssystemen.
Dit maakt het bijvoorbeeld mogelijk om onderscheid te maken tussen de naam van een gekozen functionaris, die openbaar moet blijven tijdens een plenaire vergadering, en die van een natuurlijk persoon die in een andere context voorkomt en mogelijk geanonimiseerd moet worden. Evenzo kan een datum deel uitmaken van institutionele informatie die openbaar moet worden gemaakt, of persoonsgegevens betreffen die beschermd moeten worden.
Patroongebaseerde oplossingen of oplossingen voor entiteitsherkenning blijven nuttig voor het identificeren van bepaalde soorten gegevens. Ze kunnen echter niet altijd bepalen of een bepaald gegeven geanonimiseerd moet worden, omdat deze beslissing afhankelijk kan zijn van de functie ervan binnen het document. Het AOC-voorstel beoogt deze interventie te verminderen door een combinatie van verschillende methoden. kwaliteit in detectie, contextuele intelligentie en automatisering, zonder de menselijke controle over de uiteindelijke beslissing te verliezen.
AI onder menselijk toezicht
Het proces is eenvoudig: de gebruiker uploadt de notulen, selecteert de anonimiseringscriteria en start de analyse. Het systeem interpreteert het document en genereert een geanonimiseerd voorstel. De gebruiker controleert vervolgens de maskers, wijzigt ze of voegt nieuwe toe indien nodig en downloadt het document, klaar voor publicatie.
Dit model van menselijk toezicht maakt het mogelijk om de automatiseringscapaciteit van AI te benutten zonder de wettelijke criteria van de overheid te vervangen. Het platform bevat tevens whitelists om overmatige anonimisering te voorkomen, en traceerbaarheids- en verklaarbaarheidsmechanismen die het mogelijk maken de toegepaste criteria te controleren.
Een algehele nauwkeurigheid van 96%
Het concept is gevalideerd met 52 documenten van 9 gemeenten, naast diverse interne tests van de AOC. De resultaten tonen aan dat... 96% algehele nauwkeurigheid, dat wil zeggen, dat De overgrote meerderheid van de gegevens die het systeem wil anonimiseren, wordt correct geïdentificeerd.De F1-indicator, die nauwkeurigheid en dekking combineert (het vermogen om alle gegevens te detecteren die geanonimiseerd moeten worden), overschrijdt de 90%.
Deze resultaten bevestigen de technische en functionele haalbaarheid van het voorstel en het potentieel van de combinatie van generatieve AI en menselijk toezicht om de werkdruk en het risico op onbedoelde openbaarmaking van persoonsgegevens te verminderen.
Op weg naar een toekomstige gedeelde dienstverlening
De test heeft ons ook in staat gesteld verbeterpunten te identificeren, met name wat betreft de detectiedekking in complexe documenten en de schaalbaarheid van de oplossing.
De proof-of-concept is nu afgerond en heeft het potentieel van de aanpak bevestigd. De voortzetting van het initiatief wordt momenteel uitbesteed via een pilot met een bredere scope, waardoor de oplossing verder kan worden verbeterd en kan worden ontwikkeld tot een mogelijke gedeelde dienst voor lokale overheden.
