De hoofden van de innovatiediensten bij de AOC, Carme Callés i david herderhebben deelgenomen aan de II Trainingsconferentie over kunstmatige intelligentie (AI) en bescherming van persoonsgegevens, georganiseerd door de Catalaanse Autoriteit voor gegevensbescherming (APDCAT) in samenwerking met de School voor Openbaar Bestuur van Catalonië (EAPC).
De sessie gewijd aan “AI in de lokale wereld” werd gevierd op11 november, binnen de derde dag van de training, met als doel het delen van goede praktijken voor de inzet van kunstmatige intelligentie nuttig, ethisch en met garanties in lokale openbare diensten.
In haar toespraak opende Carme Callés de sessie door de De inzet van AOC voor verantwoord en transparant gebruik van AIHij legde de methodologie van de rapporten transparència algoritmischDit initiatief is ontworpen om burgers te helpen begrijpen hoe AI-algoritmen werken, wat hun doel is en hoe ze hen kunnen beïnvloeden, en om deelname aan te moedigen en te zorgen voor een optimale werking van de AI. transparència gestandaardiseerd en vergelijkbaar en voldoen aan de wettelijke verplichtingen van transparència.
Hij legde ook uit hoe bij de voorbereiding van elk rapport, es risico's voor fundamentele rechten en ethische principes beheersen, en hoe dit werk is vertaalt zich in een helder en begrijpelijk document dat de maatregelen beschrijft die worden toegepast om risico's te minimaliseren. Zijn toespraak werd afgesloten met het voorbeeld van deverslag doen van transparència algoritmisch dels De generatieve AI-chatbots van AOC.
David Pastor verdiepte zich op zijn beurt in de praktische criteria om privacy, veiligheid en gegevensbescherming te garanderen bij de inzet van AI-systemen, en presenteerde twee Uitgelichte use cases:
- Automatisering van energiearmoederapporten (IRER)een systeem gebaseerd op geprogrammeerde regels – geen AI – maar met een potentiële impact op sociale rechten, die al zijn verslag doen van transparència algoritmisch gepubliceerd op het portaal van Transparència.
- Anonimisering van gemeentelijke plenaire vergaderingenEen AI-systeem met minimaal risico dat documenten transformeert om openbaarmaking van persoonsgegevens te voorkomen. Het systeem bevindt zich momenteel in een pilotfase met 15 gemeenten en er wordt al gewerkt aan de methodologie voor rapportage. transparència algoritmisch, een iteratief en samenwerkend proces waarbij alle actoren betrokken zijn die betrokken zijn bij het ontwerp, de ontwikkeling en de implementatie van de dienst.
Sinds juni 2025 heeft de AOC aanzienlijke stappen gezet op het gebied van ethiek en transparència algoritmisch:
- Oprichting van de werkgroep Ethische en Verantwoordelijke AIbinnen de gemeenschap DPD Online (gezamenlijk initiatief APDCAT + AOC), om een publieke standaard voor vertrouwen in AI dat het Catalaanse FRIA-model (AI-impactbeoordeling op fundamentele rechten) integreert en de transparència De praktijk van burgergerichte algoritmische berichtgeving. De groep werd op 30 oktober opgericht.
- Integratie van de bestanden van transparència AOC-algoritme in Registratie van AI-systemen en andere algoritmen van de Generalitatom een globaal en samenhangend beeld te schetsen van het gebruik van AI in de Catalaanse publieke sector.
Deze ontwikkelingen onderstrepen de inzet van het AOC voor mensgerichte AI, waardoor innovatie, de bescherming van rechten en het vertrouwen van burgers in digitaal bestuur hand in hand gaan.
👉 U kunt de presentatie (PDF) ik de video van de sessie (begint op 1:54:16).
