Tijdens de III DPD Online Meeting kon de AOC de voortgang van het rapport presenteren. transparència vergelijk de algoritmische (TRAL) aanpak met die van professionals op het gebied van gegevensbescherming. Werkgroep Ethische en Verantwoorde AI is een jaar lang bezig geweest met de ontwikkeling van dit rapport tot een referentiemodel dat begrijpelijke informatie voor burgers combineert met verifieerbare verantwoording over de risico's, garanties en het bestuur van systemen voor kunstmatige intelligentie (AI).
De bijeenkomst, georganiseerd door de APDCAT op 29 oktober in het Biomedisch Onderzoekspark in Barcelona, bracht afgevaardigden voor gegevensbescherming (APDCAT) samen om onder meer de uitdagingen van digitale regelgeving en kunstmatige intelligentie te bespreken. Carme Callés, hoofd van de Innovatiedienst, en Patricia Mallén, APDCAT van de AOC, leidden de bijeenkomst. een praktische workshop en een presentatie van de resultaten van de werkgroepverenigd door dezelfde vraag: Hoe kunnen we de risico's, waarborgen en het beheer van AI-systemen die door een organisatie worden gebruikt, inzichtelijk, begrijpelijk en verifieerbaar maken?
Van risico naar garantie: risicomanagement in de praktijk brengen
's Ochtends hebben we de participatieve workshop gehouden. "Van risico naar garantie"waarin vijftien deelnemers, verdeeld over drie teams, werkten aan een praktische casestudy: een gemeenteraad die generatieve AI gebruikt om de anonimisering van plenaire sessies voor te bereiden voordat ze op het portaal worden gepubliceerd. transparènciaDe uitdaging was om de transparència en het recht op toegang tot openbare informatie met bescherming van persoonsgegevens.
Op basis van dit scenario hebben we twee zeer concrete vragen behandeld:
- Wat zou er mis kunnen gaan? (risico's)
- Wat kunnen we doen om deze risico's te voorkomen of te verminderen? (maatregelen en garanties)
Prioritering genereerde integer-matcheseresheiligen. Twee van de drie teams die tot de grootste risicogroepen behoren, het feit dat De AI detecteert geen persoonsgegevens die geanonimiseerd zouden moeten worden.Alle drie gaven ook prioriteit aan de risico op terugdraaiing van anonimisering Deze bezwaren werden ingediend nadat de notulen waren gepubliceerd. Andere belangrijke aandachtspunten waren het overmatige vertrouwen van de beoordelaar in de AI-resultaten, het ongeoorloofde hergebruik van documenten door de modelaanbieder en de onbedoelde publicatie van een niet-gevalideerde versie.
De voorgestelde antwoorden tonen duidelijk aan dat Een risico kan meerdere maatregelen vereisen en dezelfde maatregel kan bijdragen aan de beheersing van verschillende risico's.Effectieve menselijke beoordeling, blokkering van publicatie zonder validatie, duidelijke criteria voor wat geanonimiseerd moet worden, gebruikerstraining, onomkeerbare anonimisering, testen met verschillende formaten, toegangscontrole of contractuele garanties met betrekking tot hergebruik van documenten. Dit was precies een van de principes van de voorgestelde dynamiek.
Het debat was zo boeiend dat we de derde activiteit, die gewijd was aan Leg dit risicomanagement uit aan het publiek. (transparènciaDoordat we meer tijd konden besteden aan risico's en garanties, konden we criteria vergelijken en er dieper op ingaan, wat ook een van de doelstellingen van de workshop was.
Een jaar lang werken aan een gedeeld referentiemodel
's Middags presenteerden we "Van de AI-verordening tot het TRAL-rapport: van verplichtingen tot één transparència dat is duidelijkom het werk te delen dat de werkgroep het afgelopen jaar heeft verricht.
De groep werd opgericht op 30 oktober 2025 met als doel de ontwikkeling van deverslag doen van transparència AOC-algoritme, de TRAL, en evolueren naar een referentiemodel dat toepasbaar is op verschillende gebruiksscenario's en risiconiveaus.
Het nieuwe model is opgebouwd uit twee lagen:
- Een laag van transparència voor de burgers, waarin de dienst in duidelijke taal wordt uitgelegd: wat het doet, waarom het AI gebruikt, hoe het werkt, wat er mis kan gaan, wat we doen om dat te voorkomen en wie ervoor verantwoordelijk is.
- Een laag van bestuur en verantwoording., waarin de gegevens, de werking, de wettelijke kwalificaties en de wettelijke waarborgen, het menselijk toezicht, het risicobeheer, de monitoring en het beschikbare bewijsmateriaal gedetailleerder worden beschreven.
Hierdoor wordt niet alleen zichtbaar en verifieerbaar dat een entiteit AI gebruikt, maar ook hoe zij dat systeem beheert en hoe zij de risico's die het met zich meebrengt, beheert.
En er is een belangrijk onderscheid: De TRAL vervangt geen gegevensbeschermingseffectbeoordeling (DPIA), geen beoordeling van de impact op de grondrechten (FRIA), geen juridische analyses, geen technische documentatie en geen andere toepasselijke beoordelingen en verplichtingen.Integendeel: het vult ze aan door gebruik te maken van de informatie en het bewijsmateriaal dat door deze instrumenten wordt gegenereerd, en ze te structureren vanuit het perspectief van transparència en helpt om de aangenomen garanties op een begrijpelijke manier uit te leggen.
Precies, een van deeres De doelstellingen van de groep zijn het voltooien van het nieuwe TRAL-model voor AI-systemen met een hoog risico, het aanpassen van de risicomanagementmethodologie en het onderzoeken hoe een synthese van de FRIA-resultaten adequaat kan worden geïntegreerd. transparència.
Van de werkplaats naar de TRAL
De presentatie in de middag bood ons de gelegenheid om de cirkel rond te maken met het werk van de ochtend.
Toen deelnemers vaststelden wat er mis kon gaan, werkten ze volgens dezelfde logica als in paragraaf 1.6 van de TRAL. En toen ze bespraken wat we konden doen om risico's te voorkomen of te verminderen, legden ze de basis voor paragraaf 1.7. Deze onderdelen van de burgerlaag zijn een samenvatting van de meer gedetailleerde analyse van risico's, maatregelen en bewijsmateriaal die zijn vastgelegd in de governance- en verantwoordingslaag.
De deelnemers hebben niet het volledige TRAL-rapport opgesteld, maar een deel van de kern ervan: Identificeer wat ons zorgen baart, besluit wat we eraan kunnen doen en bereid ons voor om het te kunnen uitleggen..
Transparència verantwoordelijkheid nemen
De derde online bijeenkomst van de DPD heeft ons de gelegenheid geboden het model te vergelijken met gegevensbeschermingsdeskundigen en verder te werken aan een model dat collectief, multidisciplinair en aanpasbaar is aan de realiteit van overheidsinstanties.
De uitdaging is nu om deze methodologie verder om te zetten in een bruikbaar instrument. nuttig, begrijpelijk, verifieerbaar en herbruikbaar, wat ons helpt om AI-governance om te zetten in een transparència Effectief en zinvol voor de burgers.
