De directeur van het AOC, Miquel Etape, en het hoofd Innovatie, Carme Callés, gepresenteerd op het Smart City Expo World Congress (SCEWC) de initiatief van transparència algoritmisch dat de AOC van toepassing is op haar diensten. Het belangrijkste doel is het bevorderen van vertrouwen in digitale overheidsdiensten die gebruikmaken van data en kunstmatige intelligentie (AI), en tegelijkertijd ethisch en verantwoord gebruik te waarborgen. De sessie, die op 7 november plaatsvond op de stand van Àgora de la Catalonia op de SCEWC, werd zeer goed ontvangen. Namens de AOC willen we in het bijzonder de aanwezigheid van de representaCatalaanse gemeenteraden interessats in dit initiatief.
Met dit project wil de AOC de promotie van transparènciaHet doel is om het begrip van algoritmen te bevorderen, burgerparticipatie in de ontwikkeling ervan aan te moedigen en te zorgen voor kwalitatief hoogwaardige data voor het trainen van AI-modellen. Dit houdt ook in dat ervoor gezorgd moet worden dat algoritmen vrij zijn van vooringenomenheid en regelmatig worden gecontroleerd.
Publicatie van rapporten transparència algoritmisch
Om deze doelstellingen te bereiken heeft de AOC rapporten ontwikkeld. transparència Algoritmische rapporten met gestandaardiseerde inhoud bieden een helder en begrijpelijk beeld van elk AI-systeem. Deze rapporten leggen in toegankelijke en eenvoudige taal de werking en de effecten van algoritmen op mensen uit. Ze vormen een hulpmiddel om te voldoen aan de verplichtingen van transparència Dit is vastgelegd in de regelgeving en maakt bovendien vergelijkingen tussen verschillende AI-algoritmen mogelijk.
De rapporten volgen internationale standaarden, zoals het Amsterdamse en Helsinki-model voor algoritmeregistratie, de Eurocities Europese algoritmestandaard en aanbevelingen van de OESO en het Amerikaanse NIST. Deze benchmarks hebben bijgedragen aan de ontwikkeling van goede praktijken die een transparència belangrijk, omdat het burgers in staat stelt beter te begrijpen hoe hun gegevens worden gebruikt en wat het doel van deze algoritmen is.
Risicobeheermethodologie gericht op de bescherming van fundamentele rechten
Een ander essentieel onderdeel van het initiatief was de ontwikkeling van een eigen risicobeheermethodologie om de impact van AI op de grondrechten te beoordelen. Deze methodologie identificeert fundamentele principes en rechten die kunnen worden beïnvloed door het gebruik van grote hoeveelheden gegevens die met algoritmen worden verwerkt. Het AOC voert dus een impactanalyse uit die een toegankelijke en begrijpelijke risicoanalyse voor niet-experts mogelijk maakt.
Deze tool, flexibel en gebaseerd op de huidige regelgeving, helpt bij het identificeren en beperken van de risico’s van discriminatie, kwetsbaarheid van gegevens of vooroordelen die gevolgen kunnen hebben voor burgers.
De methodologie past zich ook aan de vereisten van de Verordening inzake kunstmatige intelligentie aan (AI-wet), waarin de noodzaak wordt benadrukt om bekende en voorzienbare risico's met betrekking tot gezondheid, veiligheid en fundamentele rechten te analyseren. Hiermee willen we ervoor zorgen dat onze AI-systemen voldoen aan de veiligheidsnormen. transparència en de verantwoordelijkheid die nodig is om vertrouwen in digitaal beheer te creëren.
Hier is de presentatie:
Tot nu toe zijn er drie rapporten gepubliceerd:
Rapporten over:
- Chatbots met generatieve AI
- Automatische classificatie van incidenten op de openbare weg
