Op 29 februari jl. presenteerde m4Social (het digitale innovatieproject op sociaal gebied van de Tabel van Entiteiten van de Derde Sociale Sector van Catalonië) binnen het officiële programma van de MWC 2024 de studie 'Radar van algoritmen en geautomatiseerde besluitvormingsprocessen voor toegang tot de sociale rechten van burgers in Catalonië', geproduceerd in samenwerking met KSNET.
Deze studie analyseert de voordelen en risico's van het gebruik van kunstmatige intelligentie (AI) door overheidsinstanties, waarbij twaalf AI-systemen worden geïdentificeerd die door Catalaanse overheidsdiensten zijn geïmplementeerd of in ontwikkeling zijn. Van deze, 3 AI-systemen behoren tot de Open Administratie van Catalonië (AOC) en vallen niet alleen op door hun functionaliteiten, maar ook door de belangrijke algoritmische transparantie-inspanningen die de AOC heeft ondernomen.
De 3 AOC AI-systemen die zijn opgenomen in de Social Service Algorithm Radar van m4Social zijn:
De algoritmische transparantie van deze systemen komt tot uiting in de publicatie van gedetailleerde bestanden inclusief informatie over de gegevens die worden gebruikt om het algoritme te trainen, het type algoritme, de doelstellingen van het systeem, de tot nu toe behaalde voordelen, de geïdentificeerde risico's en de maatregelen die in elk geval zijn toegepast om de risico's te beperken en de naleving van de beginselen en fundamentele rechten van mensen.
Hieronder ziet u de details van algoritmische transparantiebladen voor deze 3 AI-systemen:
Algoritmische transparantietokens stellen mensen in staat te begrijpen hoe AI-algoritmen die in openbare diensten worden gebruikt, werken en wat de implicaties van het gebruik ervan zijn, en verbeteren ook het AI-beheer en bevorderen beter geïnformeerde interactie tussen burgers en overheid.
Dit algoritmische transparantie-initiatief is een van de eerste in Catalonië en de staat, en het enige dat al is geïmplementeerd. Het is geïnspireerd op de algoritmeregistratie van de steden Amsterdam en Helsinki, de algoritmische transparantiestandaard van het Verenigd Koninkrijk en de richtlijnen van de OESO en de Europese Commissie voor betrouwbare AI. Bovendien is het een van de aanbevolen acties waarnaar wordt verwezen in de voorgestelde Europese AI-verordening voor het geval van algoritmen met een laag of beperkt risico (in het geval van systemen met een hoog risico zal het een verplichting zijn).
Via het initiatief Transparantie in het gebruik van kunstmatige intelligentie-algoritmen, Het AOC toont zijn toewijding aan transparantie, verantwoordingsplicht en burgerparticipatie, en zorgt ervoor dat mensen goed geïnformeerd zijn en in staat zijn om te communiceren met de AI-systemen die hun leven beïnvloeden. Dit bevordert niet alleen een beter begrip van de manier waarop AI-algoritmen werken, maar bevordert ook een meer collaboratieve en constructieve relatie tussen overheid en burgers bij het creëren en implementeren van efficiëntere, veiligere en inclusievere diensten.
