O AOC cria um registro de transparência de algoritmos de inteligência artificial na vanguarda do Estado
A transparência algorítmica é um tema de importância crescente na nossa sociedade, uma vez que a algoritmos de inteligência artificial (IA) eles são cada vez mais usados para tomar decisões que afetam a vida das pessoas.
Para garantir a transparência algorítmica, é essencial que os algoritmos de IA possam ser compreendidos pelas pessoas que os usam e os afetam, para que possam entender como uma determinada decisão foi tomada e por que essa decisão é tomada; bem como que os algoritmos podem ser revisados para detectar erros ou vieses não intencionais e melhorar sua precisão.
A transparência é, portanto, um requisito essencial para alcançar e manter a confiança do usuário nos sistemas de IA e uma questão crucial para promover o desenvolvimento e o uso responsável, seguro e socialmente justo dessa tecnologia.
Para cumprir a exigência de transparência dos sistemas de IA utilizados nas administrações públicas os regulamentos existentes não estabelecem, hoje, qualquer mecanismo ou instrumento jurídico "concreto"; embora o Regulamento de IA que está a ser preparado pelo Conselho da UE aponte, como primeira ação recomendada, “registar e documentar” os sistemas de IA utilizados pelas organizações que possam estar sujeitas a este regulamento. O restante da regulamentação fala em incentivar a implementação de "mecanismos" para que os algoritmos envolvidos na tomada de decisões levem em conta critérios de transparência, sem especificar nenhum; ou publicar no site a lista de ações administrativas automatizadas (AAA) com informações sobre as regras aplicadas e seu funcionamento.
O que estamos fazendo para garantir a transparência dos algoritmos de IA no AOC?
Como forma de obter transparência na utilização dos algoritmos de IA, a AOC propõe a publicação no Portal da Transparência de fichas explicativas de cada algoritmo utilizado.
Esta é uma iniciativa líder de transparência algorítmica no setor público da Catalunha e do Estado.
Esta iniciativa pretende ser uma ferramenta para:
Fornecer aos usuários uma visão geral dos sistemas algorítmicos utilizados no AOC, incluindo informações sobre as características e resultados de sua operação, os riscos e vieses que foram identificados e as medidas que foram aplicadas para corrigi-los, e o órgão perante o qual determinado decisões podem ser apeladas ou seu funcionamento geral contestado.
Facilite a opinião de todos e participe da criação de algoritmos centrados nas pessoas.
Assim, para cada algoritmo de IA empregados nos serviços de administração digital da AOC, faremos uma ficha técnica com informações gerais sobre a finalidade e o funcionamento do algoritmo e, a seguir, forneceremos informações técnicas mais detalhadas. Também haverá a capacidade de enviar feedback para ajudar a equipe de desenvolvimento a tornar os algoritmos que usamos melhores, mais justos e mais responsáveis.
Abaixo você pode consultar o primeiro arquivo da iniciativa publicado em nosso Portal da Transparência. Esta é a aba dos chatbots conversacionais que aplicamos aos serviços VALid, idCat Certificat e, em breve, ao próprio Portal da Transparência.
Quer aprender os segredos por trás dos algoritmos de IA dos chatbots conversacionais da AOC?
O registro de transparência de algoritmos de inteligência artificial foi inspirado principalmente nas excelentes experiências práticas de registros de cidadesAmsterdam eu de Helsinque que foram líderes na Europa.
