Algoritmische transparantie is een onderwerp dat steeds belangrijker wordt in onze samenleving, sinds de kunstmatige intelligentie (AI) algoritmen ze worden steeds vaker gebruikt om beslissingen te nemen die van invloed zijn op het leven van mensen.
Om algoritmische transparantie te waarborgen, is het essentieel dat AI-algoritmen kunnen worden begrepen door de mensen die ze gebruiken en beïnvloeden, zodat ze kunnen begrijpen hoe een bepaalde beslissing tot stand is gekomen en waarom die beslissing is genomen; evenals dat de algoritmen kunnen worden herzien om fouten of onbedoelde vooroordelen te detecteren en hun nauwkeurigheid te verbeteren.
Transparantie is daarom een essentiële vereiste voor het bereiken en behouden van gebruikersvertrouwen in AI-systemen, en een cruciaal punt voor het bevorderen van een verantwoorde, veilige en maatschappelijk rechtvaardige ontwikkeling en gebruik van deze technologie.
Om te voldoen aan de eis van transparantie van AI-systemen die in overheidsdiensten worden gebruikt de bestaande regelgeving stelt vandaag geen "concreet" wettelijk mechanisme of instrument vast; hoewel de AI-verordening die door de Raad van de EU wordt voorbereid, als eerste aanbevolen actie aangeeft om de AI-systemen die worden gebruikt door de organisaties die mogelijk onder deze verordening vallen, te "registreren en documenteren". In de rest van de verordeningen wordt gesproken over het aanmoedigen van de implementatie van "mechanismen" zodat de algoritmen die betrokken zijn bij de besluitvorming rekening houden met transparantiecriteria, zonder enige te specificeren; of om op de website de lijst met geautomatiseerde administratieve acties (AAA) te publiceren met informatie over de toegepaste regels en hoe ze werken.
Om transparantie in het gebruik van AI-algoritmen te bereiken, stelt het AOC voor om op het Transparantieportaal verklarende bladen voor elk gebruikt algoritme te publiceren.
Dit is een toonaangevend initiatief van algoritmische transparantie in de publieke sector van Catalonië en de staat.
Dit initiatief wil een instrument zijn voor:
Voor elk dus AI-algoritme werkzaam in de digitale administratiediensten van het AOC, zullen we een factsheet maken met algemene informatie over het doel en de werking van het algoritme, en daarna meer gedetailleerde technische informatie geven. Er zal ook de mogelijkheid zijn om feedback in te dienen om het ontwikkelingsteam te helpen de algoritmen die we gebruiken beter, eerlijker en verantwoordelijker te maken.
Hieronder kunt u het eerste dossier van het initiatief raadplegen dat op ons Transparantieportaal is gepubliceerd. Dit is het tabblad voor conversatie-chatbots die we toepassen op de VALid-, idCat Certificat-services en binnenkort ook op de Transparency Portal zelf.
Wil je de geheimen achter de AI-algoritmen van de conversatie-chatbots van AOC leren kennen?
De transparantieregistratie van kunstmatige intelligentie-algoritmen is vooral geïnspireerd door de uitstekende praktijkervaringen van stadsregistratiesAmsterdam ik ook Helsinki die leiders waren in Europa.
