Les responsables des services d'innovation de l'AOC, Carme Callés i David Pastor, ont participé à IIe Conférence de formation sur l'intelligence artificielle (IA) et la protection des données personnelles, organisé par l’Autorité catalane de protection des données (APDCAT) en collaboration avec l’École d’administration publique de Catalogne (EAPC).
La session consacrée à « L’IA dans le monde local » a été célébré le11 en novembre, au cours du troisième jour de formation, dans le but de partager les bonnes pratiques de déploiement de l'intelligence artificielle utile, éthique et assorti de garanties dans les services publics locaux.
Dans son discours, Carme Callés a ouvert la séance en présentant le L’engagement d’AOC en faveur d’une utilisation responsable et transparente de l’IAIl expliqua le méthodologie des rapports transparència algorithmique, conçu pour aider les citoyens à comprendre le fonctionnement des algorithmes d'IA, leur objectif et leur impact potentiel, ainsi que pour encourager la participation, garantir un transparència normalisées et comparables et conformes aux obligations légales de transparència.
Il a également expliqué comment, lors de la préparation de chaque rapport, es gérer les risques pour les droits fondamentaux et les principes éthiqueset comment ce travail est cela se traduit par un document clair et compréhensible qui décrit les mesures appliquées pour minimiser les risques. Son discours s'est conclu par l'exemple derapport transparència algorithmique dels Les chatbots d'IA générative d'AOC.
Pour sa part, David Pastor s'est penché sur le critères pratiques pour garantir la confidentialité, la sécurité et la protection des données dans le déploiement des systèmes d'IA, et ont présenté deux Exemples d'utilisation:
- Automatisation des rapports sur la précarité énergétique (IRER), un système basé sur des règles programmées — et non sur l'IA — mais susceptible d'avoir un impact sur les droits sociaux, qui a déjà son rapport transparència algorithmique publié sur le portail de Transparència.
- Anonymisation des séances plénières municipalesIl s'agit d'un système d'IA à risque minimal qui transforme les documents afin d'éviter la divulgation de données personnelles. Actuellement en phase pilote auprès de 15 municipalités, il fait l'objet d'un travail en cours sur la méthodologie de signalement. transparència algorithmique, un processus itératif et collaboratif qui implique tous les acteurs participant à la conception, au développement et à la mise en œuvre du service.
Depuis juin 2025, l'AOC a réalisé des progrès significatifs en matière d'éthique et transparència algorithmique :
- Création du groupe de travail sur l'IA éthique et responsable, au sein de la communauté DPD en ligne (initiative conjointe APDCAT + AOC), pour définir un norme publique pour la confiance dans l'IA qui intègre le modèle catalan FRIA (évaluation d'impact de l'IA sur les droits fondamentaux) et le transparència Pratique du signalement algorithmique axé sur le citoyen. Le groupe a été lancé le 30 octobre.
- Intégration de les fichiers de transparència Algorithme AOC dans le Enregistrement des systèmes d'IA et autres algorithmes de la Generalitat, afin d’offrir une vision globale et cohérente des usages de l’IA dans le secteur public catalan.
Ces avancées renforcent l'engagement de l'AOC en faveur d'une IA centrée sur l'humain, ce qui rend compatibles l'innovation, la protection des droits et la confiance des citoyens dans l'administration numérique.
👉 Vous pouvez consulter le présentation (PDF) i la Vidéo de la séance (début à 1:54:16).
