No passado dia 29 de fevereiro, o m4Social (projeto de inovação digital na área social da Tabela de Entidades do Terceiro Setor Social da Catalunha) apresentou, no âmbito do programa oficial do MWC 2024, o estudo 'Radar de algoritmos e processos de decisão automatizados para acesso aos direitos sociais dos cidadãos na Catalunha', produzido em conjunto com KSNET.
Este estudo analisa os benefícios e riscos da utilização da Inteligência Artificial (IA) pelas entidades públicas, identificando 12 sistemas de IA implementados ou em processo de desenvolvimento pelas administrações públicas catalãs. Destes, Três sistemas de IA pertencem à Administração Aberta da Catalunha (AOC) e destacam-se não só pelas suas funcionalidades, mas também pelo significativo esforço de... transparència algoritmo que a AOC realizou.
Sistemas AOC AI incluídos no radar
Os 3 sistemas AOC AI incluídos no Radar de Algoritmo de Serviço Social da m4Social são:
- Chatbots de conversação AOC: Este sistema oferece automação de tarefas e resolução de consultas por meio de chatbots conversacionais. Com acesso às informações 24 horas por dia, 7 dias por semana, resposta imediata e autorresolução de dúvidas e questionamentos sobre serviços e procedimentos digitais, melhora significativamente a experiência do usuário.
- Identificação por vídeo para obter oidCat Móvel: Este sistema facilita a autenticação remota de uma pessoa através de identificação por vídeo. Com alto nível de segurança e acessibilidade aprimorada, oferece uma maneira fácil e conveniente de obter uma identidade digital para lidar com a administração sem a necessidade de deslocamento físico.
- Automação do relatório sobre pobreza energética: Este sistema acelera a detecção e resposta a casos de vulnerabilidade energética, melhorando a qualidade dos serviços sociais. Ao uniformizar o processo e desburocratizar, garante uma resposta rápida e precisa às necessidades dos cidadãos em situação de vulnerabilidade.
La transparència A natureza algorítmica desses sistemas se manifesta na publicação de arquivos detalhados. incluindo informações sobre os dados utilizados para treinar o algoritmo, o tipo de algoritmo, os objetivos do sistema, os benefícios alcançados até o momento, os riscos identificados e as medidas aplicadas em cada caso para mitigar os riscos e garantir o cumprimento dos princípios e fundamentos direitos das pessoas.
Abaixo você pode ver os detalhes dos arquivos de transparència Algoritmos desses 3 sistemas de IA:
A iniciativa de transparència Algoritmo AOC
Os arquivos de transparència A aprendizagem algorítmica permite que as pessoas compreendam como funcionam os algoritmos de IA utilizados nos serviços públicos e as implicações da sua utilização, além de melhorar a governança da IA e promover uma interação mais informada entre os cidadãos e a administração.
Esta iniciativa de transparència algorítmico é um dos melhoreseres na Catalunha e no Estado, e é a única que já foi implementada. É inspirado no algoritmo de registro das cidades de Amsterdã e Helsinque, o padrão de transparència A implementação de algoritmos está em conformidade com as diretrizes do Reino Unido, bem como com as orientações da OCDE e da Comissão Europeia para uma IA confiável. Além disso, é uma das ações recomendadas na proposta de regulamentação europeia de IA para algoritmos de baixo ou limitado risco (no caso de sistemas de alto risco, será obrigatória).
Através da iniciativa Transparència no uso de algoritmos de inteligência artificial, A AOC demonstra seu compromisso com o transparència, responsabilização e participação cidadã, garantindo que as pessoas estejam bem informadas e capacitadas para interagir com os sistemas de IA que afetam suas vidas.. Isto não só promove uma melhor compreensão de como funcionam os algoritmos de IA, mas também promove uma relação mais colaborativa e construtiva entre a administração e os cidadãos na criação e implementação de serviços mais eficientes, seguros e inclusivos.
