A AOC promove um modelo de relatório de transparència dos principais algoritmos de inteligência artificial do Estado
Partilha
Esta postagem tem mais de 1 ano. O conteúdo pode não estar atualizado.
La transparència A algoritmia é um tema de crescente importância em nossa sociedade, pois algoritmos de inteligência artificial (IA) eles são cada vez mais usados para tomar decisões que afetam a vida das pessoas.
Para garantir que transparència Em termos algorítmicos, é essencial que os algoritmos de IA sejam compreendidos pelas pessoas que os utilizam e são afetadas por eles, para que possam entender como uma determinada decisão foi tomada e por que essa decisão foi tomada; bem como para que os algoritmos possam ser revisados a fim de detectar erros ou vieses não intencionais e melhorar sua precisão.
La transparència Portanto, trata-se de um requisito essencial para alcançar e manter a confiança do usuário nos sistemas de IA, e uma questão crucial para promover o desenvolvimento e o uso responsável, seguro e justo dessa tecnologia perante a sociedade.
Para cumprir a exigência de transparència de sistemas de IA utilizados em administrações públicas A legislação vigente não estabelece atualmente nenhum mecanismo ou instrumento jurídico “concreto”; embora o Regulamento de IA em preparação pelo Conselho da UE aponte, como primeira recomendação, o “registo e documentação” dos sistemas de IA utilizados por organizações que possam estar sujeitas a este regulamento. O restante da legislação aborda o incentivo à implementação de “mecanismos” para que os algoritmos envolvidos na tomada de decisões levem em consideração critérios de transparència, sem especificar nenhuma; ou publicar em seu site a lista de ações administrativas automatizadas (AAA) com informações sobre as regras aplicadas e seu funcionamento.
O que fazemos para garantir que transparència de algoritmos de IA no AOC?
Como meio de alcançar o transparència No que diz respeito à utilização de algoritmos de IA, a AOC propõe a publicação no Portal de Transparència de cartões compreensíveis para cada algoritmo utilizado.
Esta é uma iniciativa pioneira de transparència algorítmico no setor público da Catalunha e do Estado.
Esta iniciativa pretende ser uma ferramenta para:
Fornecer aos usuários uma visão geral dos sistemas algorítmicos utilizados no AOC, incluindo informações sobre as características e resultados de sua operação, os riscos e vieses que foram identificados e as medidas que foram aplicadas para corrigi-los, e o órgão perante o qual determinado decisões podem ser apeladas ou seu funcionamento geral contestado.
Facilite a opinião de todos e participe da criação de algoritmos centrados nas pessoas.
Assim, para cada algoritmo de IA empregados nos serviços de administração digital da AOC, faremos uma ficha técnica com informações gerais sobre a finalidade e o funcionamento do algoritmo e, a seguir, forneceremos informações técnicas mais detalhadas. Também haverá a capacidade de enviar feedback para ajudar a equipe de desenvolvimento a tornar os algoritmos que usamos melhores, mais justos e mais responsáveis.
Abaixo, você pode consultar a primeira página da iniciativa publicada em nosso Portal. TransparènciaEste é o perfil dos chatbots conversacionais que aplicamos aos serviços da VALid. idCat Certificado e, em breve, no próprio Portal. Transparència.
Quer aprender os segredos por trás dos algoritmos de IA dos chatbots conversacionais da AOC?
O registro de transparència Os algoritmos de inteligência artificial foram inspirados principalmente pelas excelentes experiências práticas dos registros municipais emAmsterdam eu de Helsinque que estavam no comandoeres para a Europa.
As câmaras municipais de municípios com até 20.000 habitantes, os conselhos distritais e as entidades municipais descentralizadas já podem solicitar o recurso financeiro "Soluções de Administração Digital"...
As autoridades locais catalãs contarão com novos serviços para reforçar a proteção contra ciberataques e facilitar a recuperação das atividades após um incidente. A Comissão...
Quando uma administração digitaliza um procedimento, o desafio não é apenas garantir seu funcionamento, mas também que todos possam utilizá-lo. Um estudo da Ferrer...
