Op 29 februari jl. presenteerde m4Social (het digitale innovatieproject op sociaal gebied van de Tabel van Entiteiten van de Derde Sociale Sector van Catalonië) binnen het officiële programma van de MWC 2024 de studie 'Radar van algoritmen en geautomatiseerde besluitvormingsprocessen voor toegang tot de sociale rechten van burgers in Catalonië', geproduceerd in samenwerking met KSNET.
Deze studie analyseert de voordelen en risico's van het gebruik van kunstmatige intelligentie (AI) door overheidsinstanties, waarbij twaalf AI-systemen worden geïdentificeerd die door Catalaanse overheidsdiensten zijn geïmplementeerd of in ontwikkeling zijn. Van deze, Drie AI-systemen behoren tot de Open Administratie van Catalonië (AOC) en onderscheiden zich niet alleen door hun functionaliteiten, maar ook door de aanzienlijke inspanning die eraan is besteed. transparència algoritme dat de AOC heeft uitgevoerd.
AOC AI-systemen opgenomen in de radar
De 3 AOC AI-systemen die zijn opgenomen in de Social Service Algorithm Radar van m4Social zijn:
- AOC conversatiechatbots: Dit systeem biedt taakautomatisering en het oplossen van vragen via conversatiechatbots. Met 24×7 toegang tot informatie, onmiddellijke reactie en zelfoplossing van twijfels en vragen over digitale diensten en procedures, verbetert het de gebruikerservaring aanzienlijk.
- Video-identificatie om deidCat Mobiel: Dit systeem vergemakkelijkt de authenticatie op afstand van een persoon via video-identificatie. Met een hoog beveiligingsniveau en verbeterde toegankelijkheid biedt het een gemakkelijke en handige manier om een digitale identiteit te verkrijgen om met de administratie om te gaan, zonder dat u fysiek hoeft te reizen.
- Automatisering van het energiearmoederapport: Dit systeem versnelt de detectie en reactie op gevallen van energiekwetsbaarheid, waardoor de kwaliteit van de sociale diensten verbetert. Door het proces te standaardiseren en de bureaucratie te verminderen, zorgt het voor een snelle en nauwkeurige reactie op de behoeften van burgers in kwetsbare situaties.
La transparència Het algoritmische karakter van deze systemen komt tot uiting in de publicatie van gedetailleerde bestanden. inclusief informatie over de gegevens die worden gebruikt om het algoritme te trainen, het type algoritme, de doelstellingen van het systeem, de tot nu toe behaalde voordelen, de geïdentificeerde risico's en de maatregelen die in elk geval zijn toegepast om de risico's te beperken en de naleving van de beginselen en fundamentele rechten van mensen.
Hieronder ziet u de details van de bestanden. transparència Algoritmische werking van deze 3 AI-systemen:
Het initiatief van transparència AOC-algoritme
De bestanden van transparència Algoritmisch leren stelt mensen in staat te begrijpen hoe AI-algoritmen die in publieke diensten worden gebruikt, werken en wat de gevolgen van hun gebruik zijn. Bovendien verbetert het de AI-governance en bevordert het een meer geïnformeerde interactie tussen burgers en de overheid.
Dit initiatief van transparència Algoritmisch is een van de besteeres in Catalonië en in de deelstaat, en het is de enige die al is geïmplementeerd. Het is geïnspireerd op het registratiealgoritme van de steden Amsterdam en Helsinki, de standaard van transparència Het is gebaseerd op de algoritmes van het Verenigd Koninkrijk, evenals op de richtlijnen van de OESO en de Europese Commissie voor betrouwbare AI. Bovendien is het een van de aanbevolen acties in het voorstel voor een Europese AI-regelgeving voor algoritmes met een laag of beperkt risico (voor systemen met een hoog risico is het een verplichting).
Via het initiatief Transparència bij het gebruik van algoritmen voor kunstmatige intelligentie, De AOC toont hiermee haar betrokkenheid bij de transparència, verantwoording en burgerparticipatie, ervoor zorgen dat mensen goed geïnformeerd zijn en in staat worden gesteld om te interageren met AI-systemen die hun leven beïnvloeden.. Dit bevordert niet alleen een beter begrip van de manier waarop AI-algoritmen werken, maar bevordert ook een meer collaboratieve en constructieve relatie tussen overheid en burgers bij het creëren en implementeren van efficiëntere, veiligere en inclusievere diensten.
