De AOC bevordert een rapportagemodel van transparència van de meest vooraanstaande algoritmen voor kunstmatige intelligentie in de staat
delen
Dit bericht is ruim 1 jaar oud. De inhoud is mogelijk niet actueel.
La transparència Algoritmiek is een onderwerp dat steeds belangrijker wordt in onze samenleving, omdat de kunstmatige intelligentie (AI) algoritmen ze worden steeds vaker gebruikt om beslissingen te nemen die van invloed zijn op het leven van mensen.
Om ervoor te zorgen dat de transparència Het is van essentieel belang dat AI-algoritmen begrijpelijk zijn voor de mensen die ze gebruiken en beïnvloeden, zodat ze kunnen inzien hoe een bepaalde beslissing tot stand is gekomen en waarom die beslissing is genomen. Daarnaast is het belangrijk dat de algoritmen kunnen worden geëvalueerd om fouten of onbedoelde vooroordelen op te sporen en hun nauwkeurigheid te verbeteren.
La transparència Het is daarom een essentiële voorwaarde voor het verkrijgen en behouden van gebruikersvertrouwen in AI-systemen, en een cruciaal punt voor het bevorderen van de ontwikkeling en het verantwoordelijke, veilige en eerlijke gebruik van deze technologie ten behoeve van de samenleving.
Om te voldoen aan de eis van transparència van AI-systemen die worden gebruikt in overheidsdiensten De bestaande regelgeving voorziet momenteel niet in een concreet juridisch mechanisme of instrument; hoewel de door de EU-Raad opgestelde AI-verordening als eerste aanbeveling aangeeft om de AI-systemen die worden gebruikt door organisaties die onder deze verordening vallen, te registreren en te documenteren. De rest van de regelgeving spreekt over het stimuleren van de implementatie van mechanismen zodat de bij besluitvorming betrokken algoritmen rekening houden met criteria van transparència, zonder er een te specificeren; of om op haar website de lijst met geautomatiseerde administratieve acties (AAA) te publiceren met informatie over de toegepaste regels en hun werking.
Wat doen we om ervoor te zorgen dat de transparència van AI-algoritmen in de AOC?
Als middel om het te bereiken transparència Bij het gebruik van AI-algoritmen stelt de AOC voor om de resultaten te publiceren op het portaal. Transparència van begrijpelijke kaarten voor elk gebruikt algoritme.
Dit is een baanbrekend initiatief van transparència Algoritmische processen in de Catalaanse publieke sector en de staat.
Dit initiatief wil een instrument zijn voor:
Gebruikers een overzicht geven van de algoritmische systemen die in de AOC worden gebruikt, inclusief informatie over de kenmerken en resultaten van hun werking, de risico's en vooroordelen die zijn geïdentificeerd en de maatregelen die zijn toegepast om deze te corrigeren, en de instantie waarvoor bepaalde tegen beslissingen kan beroep worden aangetekend of tegen de algemene werking ervan worden aangevochten.
Maak het voor iedereen gemakkelijk om hun mening te geven en deel te nemen aan het creëren van mensgerichte algoritmen.
Voor elk dus AI-algoritme werkzaam in de digitale administratiediensten van het AOC, zullen we een factsheet maken met algemene informatie over het doel en de werking van het algoritme, en daarna meer gedetailleerde technische informatie geven. Er zal ook de mogelijkheid zijn om feedback in te dienen om het ontwikkelingsteam te helpen de algoritmen die we gebruiken beter, eerlijker en verantwoordelijker te maken.
Hieronder kunt u het eerste document van het initiatief raadplegen dat op ons portaal is gepubliceerd. TransparènciaDit is het profiel van de conversationele chatbots die we toepassen op de VALid-diensten. idCat Certificaat en, binnenkort, ook op het portaal zelf. Transparència.
Wil je de geheimen achter de AI-algoritmen van de conversatie-chatbots van AOC leren kennen?
Het register van transparència De ontwikkeling van algoritmen voor kunstmatige intelligentie is voornamelijk geïnspireerd door de uitstekende praktijkervaringen van stadsregisters.Amsterdam ik ook Helsinki die de leiding haddeneres naar Europa.
