O diretor da AOC, Miquel Estape, e o chefe de Inovação, Carme Callés, apresentou no Smart City Expo World Congress (SCEWC) o iniciativa de transparència algorítmico que a AOC aplica aos seus serviços. O principal objetivo é fomentar a confiança nos serviços de administração digital que utilizam dados e inteligência artificial (IA), garantindo simultaneamente uma utilização ética e responsável. A sessão, realizada a 7 de novembro no stand da Àgora de la Catalunia na SCEWC, foi muito bem recebida. A AOC agradece especialmente a presença do representaconselhos municipais catalães interessats nesta iniciativa.
Com este projeto, a AOC busca promover o transparènciaFacilitar a compreensão dos algoritmos, incentivar a participação cidadã no seu desenvolvimento e garantir dados de qualidade para o treinamento de modelos de IA. Isso também inclui assegurar que os algoritmos estejam livres de vieses e sejam monitorados regularmente.
Publicação de relatórios transparència algorítmico
Para atingir esses objetivos, o AOC desenvolveu relatórios. transparència Os relatórios algorítmicos, com conteúdo padronizado, oferecem uma visão clara e compreensível de cada sistema de IA. Eles explicam, em linguagem acessível e simples, o funcionamento e os efeitos dos algoritmos sobre as pessoas, sendo uma ferramenta para o cumprimento das obrigações de transparència estabelecido nos regulamentos, além de permitir a comparação entre diferentes algoritmos de IA.
Os relatórios seguem padrões internacionais, como o Modelo de Registro de Algoritmos de Amsterdã e Helsinque, o Padrão Algorítmico Europeu Eurocities e recomendações da OCDE e do NIST dos EUA. Esses parâmetros de referência ajudaram a estabelecer boas práticas que facilitam a transparència significativo, permitindo que os cidadãos compreendam melhor o uso de seus dados e a finalidade desses algoritmos.
Metodologia de gestão de riscos focada na proteção dos direitos fundamentais
Outro elemento essencial da iniciativa foi o desenvolvimento de uma metodologia própria de gestão de riscos para avaliar o impacto da IA nos direitos fundamentais. Esta metodologia identifica princípios e direitos fundamentais que podem ser afetados pela utilização de grandes volumes de dados processados com algoritmos. O AOC realiza assim uma avaliação de impacto que permite uma análise de risco acessível e compreensível para não especialistas.
Esta ferramenta, ágil e baseada nas regulamentações vigentes, ajuda a identificar e mitigar riscos de discriminação, vulnerabilidade de dados ou preconceitos que possam afetar os cidadãos.
A metodologia também se adapta aos requisitos do Regulamento de Inteligência Artificial (Lei de IA), que especifica a necessidade de analisar os riscos conhecidos e previsíveis em relação à saúde, segurança e direitos fundamentais. Com isso, queremos garantir que nossos sistemas de IA estejam em conformidade com os padrões de segurança. transparència e a responsabilidade necessária para gerar confiança na administração digital.
Aqui está a apresentação:
Até o momento, três relatórios foram publicados:
Relatórios sobre:
- Chatbots com IA generativa
- Classificação automática de incidentes em vias públicas
