Desafio

Como podemos ajudar as câmaras municipais a anonimizar de forma rápida e confiável as atas das sessões plenárias municipais para proteger os dados pessoais, facilitar sua publicação e garantir a conformidade com as normas?

Contexto e problema

A AOC fornece serviços digitais para administrações locais, que frequentemente envolvem a publicação de documentos administrativos com conteúdo potencialmente sensível. Nesse contexto, a anonimização de dados pessoais antes da publicação é um elemento fundamental para garantir a conformidade com as normas de proteção de dados e reduzir os riscos à privacidade dos indivíduos.

Um dos mais representaEstas são as atas das sessões plenárias municipais, que as entidades locais devem publicar proativamente nos portais de transparència, em conformidade com a Lei 19/2014, de transparència, acesso à informação pública e boa governança. Somente em 2024 foram publicados mais de 8.000 sessões plenárias no portal de transparència da AOC.

Estas atas podem conter dados pessoais que não estão sujeitos a publicação, como nomes de indivíduos, números de identificação, endereços, e-mails ou dados bancários. A sua revisão. É necessário distinguir quais informações devem ser mantidas públicas e quais devem ser ocultadas para proteger os direitos dos indivíduos afetados.Essa decisão depende não apenas do tipo de dado, mas também do contexto em que ele aparece no documento. É uma tarefa que exige tempo, conhecimento das normas e critérios jurídicos rigorosos.

Por exemplo, o nome de um funcionário eleito em uma sessão plenária não requer anonimização, enquanto o nome de uma pessoa afetada por uma resolução sancionatória requer. Da mesma forma, uma data de nascimento é um dado pessoal que geralmente deve ser anonimizado, enquanto a data de um ato administrativo faz parte das informações que devem ser mantidas públicas.

Quando esse processo é feito manualmente, aumenta a carga de trabalho das equipes responsáveis ​​e também o risco de que alguns dados pessoais sejam expostos involuntariamente., com as consequências que isso pode acarretar em termos de conformidade com o Regulamento Geral de Proteção de Dados (RGPD). Além disso, quando se detecta a publicação indevida de dados pessoais, o documento deve ser retirado, corrigido e uma nova versão publicada, um procedimento lento que a AOC tem de gerir praticamente todas as semanas.

Nesse contexto, a AOC considerou em 2025 se as tecnologias de inteligência artificial poderiam apoiar esse processo, ajudando os funcionários municipais a identificar os dados pessoais que precisam ser anonimizados e mantendo sempre a supervisão humana sobre a decisão final.

Solução proposta

Para responder a esse problema, a AOC lançou uma prova de conceito (PoC) para validar se a IA generativa pode automatizar a anonimização das atas das sessões plenárias municipais antes de sua publicação no portal. transparència.

A iniciativa explora como combinar a capacidade da IA ​​generativa de interpretar o contexto de documentos com a supervisão humana, com o objetivo de reduzir a carga de trabalho associada a esse processo, minimizar os riscos de divulgação de dados pessoais e garantir a conformidade com as normas de proteção de dados.

O objetivo não é substituir os critérios legais das administrações, mas sim Oferecer uma ferramenta de suporte que detecta automaticamente dados pessoais e propõe a anonimização, a qual é posteriormente validada por uma pessoa antes da publicação do documento. Essa abordagem permite aproveitar as vantagens da IA, mantendo o controle humano sobre a decisão final.

A prova de conceito foi projetada como um sistema de risco mínimo: a IA não toma decisões automatizadas sobre pessoas nem afeta seus direitos, mas atua exclusivamente como uma ferramenta de apoio para transformar documentos antes da publicação.

Qual é a solução?

A prova de conceito consiste em uma plataforma web na nuvem que utiliza modelos generativos de IA para identificar e anonimizar dados pessoais contidos em sessões plenárias.

Ao contrário dos sistemas tradicionais baseados exclusivamente em padrões predefinidos, A plataforma interpreta o contexto do documento. Distinguir entre informações que devem ser mantidas públicas — como aquelas relativas a autoridades eleitas ou à atividade institucional — e aquelas que devem ser protegidas por corresponderem a dados pessoais. Essa capacidade é especialmente relevante porque a decisão de anonimizar informações muitas vezes depende do contexto em que elas aparecem e não apenas do tipo de dado.

A solução incorpora diversos mecanismos para garantir a qualidade e a confiabilidade do processo:

  • Detecção contextual de dados pessoais, baseado em IA generativa.
  • Listas brancas, que permitem que certos termos sejam excluídos da anonimização para evitar a anonimização excessiva.
  • Supervisão humana (“humano no circuito”), portanto, o sistema apenas propõe as anonimizações e é o usuário quem as revisa e valida antes de publicar o documento.
  • Rastreabilidade e explicabilidade, registrando os critérios aplicados em cada anonimização para que o processo seja revisável e auditável.

Como funciona?

O processo de anonimização está estruturado em quatro etapas simples:

  1. O usuário carrega o documento (PDF ou DOCX) na plataforma.
  2. Selecione os critérios de anonimização que deseja aplicar (nomes e sobrenomes, documentos de identidade, endereços, datas, números de telefone, contas bancárias, etc.) e inicie o processo.
  3. O sistema analisa o documento, interpreta o contexto da informação e gera uma proposta para um documento anonimizado. Para isso, identifica os dados pessoais que, de acordo com os critérios selecionados, devem ser anonimizados e os oculta utilizando máscaras.
  4. O usuário analisa o resultado, aceita ou modifica as máscaras geradas, pode criar novas caso detecte dados pessoais que não foram anonimizados e, por fim, baixa o documento preparado para publicação.

Resultados da prova de conceito

A prova de conceito foi validada com 52 documentos fornecidos por 9 municípios, complementada por múltiplos testes internos realizados pela AOC durante o desenvolvimento da solução. O processo de validação permitiu avaliar tanto a qualidade da anonimização quanto o comportamento da plataforma em situações reais de uso.

Os resultados obtidos confirmam a viabilidade técnica e funcional da proposta, bem como a adequação do modelo baseado na combinação de inteligência artificial generativa e supervisão humana. Especificamente, a validação permitiu verificar que:

  • A plataforma alcança uma precisão geral de 96%.Ou seja, quando o sistema identifica um dado para anonimizar, geralmente o faz corretamente, reduzindo a necessidade de revisar falsos positivos.
  • O indicador geral F1, que combina a precisão e a abrangência da detecção de dados pessoais em uma única métrica de qualidade, ultrapassa os 90%. No últimoeres As iterações de prova de conceito (PoC) alcançaram níveis de qualidade geral acima de 95%.
  • A combinação de IA e supervisão humana Trata-se de um modelo eficaz para reduzir o esforço manual, mantendo as garantias necessárias antes da publicação de documentos.

A prova de conceito também serviu para identificar os principais desafios que precisam ser abordados antes de uma eventual implementação em produção:

  • Aumentar a cobertura de detecção (Recordar) Reduzir os casos em que alguns dados pessoais podem permanecer sem anonimização, especialmente em documentos com estruturas complexas ou heterogêneas.
  • Evoluir a arquitetura da solução Para melhorar sua escalabilidade, desempenho e eficiência, possibilitando um serviço compartilhado sustentável para um grande número de administrações.
  • Continue treinando e aprimorando os modelos. Com base nos resultados obtidos e em novas validações com documentos reais, incorporando o conhecimento gerado durante a revisão do usuário.

Nesse sentido, a prova de conceito também nos permitiu definir como a arquitetura da solução deve evoluir. A versão atual resolve todo o processo de anonimização usando um único modelo de IA generativa de alta capacidade, uma abordagem adequada para validar a viabilidade da solução, mas não muito eficiente para implantação em larga escala. A evolução esperada separa a identificação de dados pessoais da decisão sobre quais dados devem ser anonimizados com base no contexto.Assim, cada fase poderá utilizar os modelos de IA mais adequados e eficientes. Essa evolução aprimorará a escalabilidade, o desempenho e a sustentabilidade do futuro serviço compartilhado.

Em geral, a prova de conceito confirma que essa abordagem é viável e fornece uma base sólida para continuar aprimorando a solução rumo à futura implementação em produção.

Recursos e colaboração

A prova de conceito foi desenvolvida em conjunto pela AOC, responsável pela liderança funcional do projeto; a empresa de tecnologia OMNIOS, encarregada do desenvolvimento da plataforma e da análise dos resultados; e 9 câmaras municipais, que forneceram documentos reais para validar a solução em contexto real. representauso de.

Desde a sua concepção, a plataforma foi idealizada de acordo com o princípios de segurança, transparènciarastreabilidade e supervisão humana específico para sistemas de IA aplicados ao setor público, com o objetivo de explorar um modelo de anonimização auxiliado por inteligência artificial que pode evoluir para um futuro serviço compartilhado para administrações locais.

Valor para entidades locais

A prova de conceito destaca o potencial da IA ​​generativa para apoiar processos administrativos que exigem uma grande quantidade de revisão de documentos e um julgamento jurídico criterioso. Se a solução evoluir para um serviço compartilhado, poderá trazer benefícios significativos para as autoridades locais.

  • Reduzir o risco de divulgação acidental de dados pessoais., minimizando a probabilidade de publicar informações que não deveriam ser de acesso público.
  • Economizar tempo e aumentar a eficiência, automatizando grande parte do processo de identificação de dados revisão manual personalizada e de redução.
  • Maior homogeneidade na aplicação dos critérios de anonimização., promovendo um tratamento mais coerente entre as administrações.
  • Mais garantias de rastreabilidade e auditoria., graças ao registro das anonimizações realizadas e dos critérios aplicados.
  • Capacidade de aprimorar continuamente a solução, incorporando contribuições do usuário e avanços em modelos de IA cada vez mais poderosos.

Conclusões

A prova de conceito permitiu validar a viabilidade técnica e funcional de uma ferramenta baseada em inteligência artificial generativa para apoiar a anonimização das atas das sessões plenárias municipais antes da sua publicação.

Os resultados obtidos demonstram que a combinação de detecção automática e supervisão humana é uma abordagem adequada para reduzir a carga de trabalho das entidades locais e o risco de divulgação de dados pessoais, mantendo as garantias necessárias em um processo dessa natureza.

A prova de conceito (PoC) também permitiu identificar as principais áreas de melhoria antes de uma possível implementação em produção, especialmente na detecção de certos tipos de dados pessoais em documentos complexos e na integração da solução com os serviços da AOC. A PoC fornece uma base sólida para continuar a evolução do projeto e avaliar sua transformação em um futuro serviço compartilhado para administrações locais.

Status do projeto

Prova de conceito realizada e potencial validado. A continuidade da iniciativa está em processo de formalização por meio da realização de um projeto piloto de maior abrangência.

Mais Informações

Blog da AOC:

Apresentações e artigos:

Vídeos: