De hoofden van de innovatiediensten bij het AOC, Carme Callés en David Pastor, hebben deelgenomen aan de trainingssessies over kunstmatige intelligentie (AI) en gegevensbescherming, gericht op personeel van de Generalitat en de lokale gemeenschap.
De conferenties, georganiseerd door de Catalaanse autoriteit voor gegevensbescherming (APDCAT) in samenwerking met de School voor openbaar bestuur van Catalonië (EAPC), hebben als doel om overheidspersoneel te begeleiden bij de juiste toepassing van de Europese verordening inzake kunstmatige intelligentie (RIA) en bij de integratie daarvan met de regelgeving inzake gegevensbescherming.
In zijn tussenkomst legde de AOC uit hoe een nuttige, ethische en gegarandeerde kunstmatige intelligentie, speciaal ontworpen voor de lokale overheid en altijd met de nadruk op de bescherming van de grondrechten. We hebben deze inzet vertaald in een concreet instrument: de verslagen van transparència algoritmisch, die we standaardiseren om als een service aan de lokale wereld aan te bieden.
Tijdens de sessie werd er gedeeld algemene criteria waarmee rekening moet worden gehouden om de effectieve bescherming van het recht op privacy, bescherming van persoonsgegevens en veiligheid te garanderen, vooral bij de inzet van AI-systemen.
Er zijn ook specifieke voorbeelden gegeven van de toepassing van deze criteria in de publieke dienstverlening:
- Chatbots gebaseerd op generatieve AI, met garanties en risicominimalisatie
- Automatisering van het Residential Exclusion Risk Report (IRER)om sociale rechten te beschermen
- Anonimisering van plenaire vergaderingen met Natural Language Processing (NLP), Large Language Models (LLM) en menselijk toezicht
- Video-identificatie om deidCAT Mobiel, met toezicht en echte impact
De meeste van deze gevallen hebben hun rapport. transparència algoritmisch, met een duidelijke uitleg van de risico's, de maatregelen die worden genomen om deze te elimineren of te minimaliseren, en de voordelen voor zowel burgers als overheidsinstanties.
👉 Je kunt alle rapporten raadplegen van transparència al AOC-website.
