Os responsáveis pelos serviços de inovação da AOC, Carme Callés e David Pastor, participaram nas sessões de formação sobre inteligência artificial (IA) e proteção de dados, destinado aos funcionários da Generalitat e da comunidade local.
As jornadas, organizadas pela Autoridade Catalã de Proteção de Dados (APDCAT) com a colaboração da Escola de Administração Pública da Catalunha (EAPC), têm como objetivo orientar os funcionários públicos na aplicação adequada do Regulamento Europeu sobre Inteligência Artificial (RIA) e na sua integração com as normas de proteção de dados.
Na sua intervenção, a AOC explicou como uma inteligência artificial útil, ética e garantida, especialmente concebido para o setor público local e sempre com foco na proteção dos direitos fundamentais. Traduzimos esse compromisso em uma ferramenta concreta: o relatórios de transparència algorítmico, que estamos padronizando para oferecer como um serviço ao mundo local.
Durante a sessão, foram partilhadas critérios gerais a ter em conta para garantir a proteção efetiva do direito à privacidade, à proteção de dados pessoais e à segurança, especialmente na implantação de sistemas de IA.
Também foram apresentados exemplos específicos da aplicação destes critérios em serviços públicos:
- Chatbots baseado em IA generativa, com garantias e minimização de riscos
- Automação do Relatório de Risco de Exclusão Residencial (IRER), para proteger os direitos sociais
- Anonimização das sessões plenárias com Processamento de Linguagem Natural (PLN), Grandes Modelos de Linguagem (LLM) e supervisão humana
- Identificação por vídeo para obter oidCAT Móvel, com supervisão e impacto real
A maioria desses casos possui seu respectivo relatório. transparència algorítmico, com uma explicação clara dos riscos, das medidas aplicadas para eliminá-los ou minimizá-los e dos benefícios tanto para os cidadãos quanto para as administrações públicas.
👉 Você pode consultar todos os relatórios de transparència al Site da AOC.
