Publicar uma sessão plenária no portal de transparència Pode parecer um processo simples. Mas, antes de torná-lo público, ele precisa ser revisado e quaisquer dados pessoais que não devam ser publicados devem ser anonimizados. Isso exige uma decisão, caso a caso, sobre quais informações podem permanecer visíveis e quais precisam ser protegidas. E essa decisão nem sempre depende do tipo de dado, mas do contexto em que ele aparece.
Essa tarefa pode envolver uma carga significativa de revisão manual e, ao mesmo tempo, um risco de erro que pode resultar na publicação acidental de dados pessoais. Por esse motivo, na AOC, exploramos Como a inteligência artificial generativa pode ajudar a anonimizar de forma ágil e confiável., interpretando o conteúdo dos documentos e propondo automaticamente quais informações precisam ser anonimizadas, sempre com a supervisão final de uma pessoa.
Anonimização que compreende o contexto
O principal diferencial da solução desenvolvida reside na sua capacidade de interpretar o contexto do documento, além da detecção de dados com base em padrões predefinidos ou sistemas de reconhecimento de entidades.
Isso permite, por exemplo, distinguir entre o nome de um funcionário eleito, que deve ser mantido público em uma sessão plenária, e o de uma pessoa física que aparece em outro contexto e que pode exigir anonimização. Da mesma forma, uma data pode fazer parte de informações institucionais que devem ser publicadas ou ser um dado pessoal que deve ser protegido.
As soluções baseadas em padrões ou reconhecimento de entidades continuam úteis para identificar certos tipos de dados. No entanto, nem sempre conseguem determinar se um dado específico deve ser anonimizado, pois essa decisão pode depender de sua função dentro do documento. A proposta da AOC busca reduzir essa intervenção combinando Qualidade na detecção, inteligência contextual e automação., sem perder o controle humano sobre a decisão final.
IA com supervisão humana
O processo é simples: o usuário carrega a ata, seleciona os critérios de anonimização e inicia a análise. O sistema interpreta o documento e gera uma proposta anonimizada. O usuário então revisa as máscaras, modifica-as ou adiciona novas, se julgar necessário, e baixa o documento pronto para publicação.
Este modelo de supervisão humana permite explorar a capacidade de automação da IA sem substituir os critérios legais das administrações. A plataforma também incorpora listas de permissão para evitar a anonimização excessiva, além de mecanismos de rastreabilidade e explicabilidade que permitem a revisão dos critérios aplicados.
Uma precisão geral de 96%
A prova de conceito foi validada com 52 documentos fornecidos por 9 municípios, além de diversos testes internos realizados pela AOC. Os resultados demonstram uma 96% de precisão geral, isto é, que A grande maioria dos dados que o sistema propõe anonimizar é corretamente identificada.O indicador F1, que combina precisão e abrangência (a capacidade de detectar todos os dados que precisam ser anonimizados), ultrapassa os 90%.
Esses resultados confirmam a viabilidade técnica e funcional da proposta e o potencial da combinação de IA generativa e supervisão humana para reduzir a carga de trabalho e o risco de divulgação acidental de dados pessoais.
Rumo a um futuro serviço compartilhado
O teste também nos permitiu identificar áreas para melhoria, especialmente em relação à cobertura de detecção em documentos complexos e à escalabilidade da solução.
A prova de conceito (PoC) foi concluída e validou o potencial da abordagem. A continuidade da iniciativa está sendo contratada por meio de um projeto piloto de maior abrangência, que permitirá o aprimoramento contínuo da solução e o avanço rumo a um possível serviço compartilhado para administrações locais.
