Вызов

Как мы можем помочь городским советам быстро и надежно анонимизировать протоколы пленарных заседаний муниципалитетов, чтобы защитить персональные данные, упростить их публикацию и гарантировать соблюдение нормативных требований?

Контекст и проблема

AOC предоставляет цифровые услуги местным администрациям, которые часто включают публикацию административных документов, содержащих потенциально конфиденциальную информацию. В этом контексте анонимизация персональных данных перед публикацией является ключевым элементом обеспечения соблюдения правил защиты данных и снижения рисков для конфиденциальности физических лиц.

Один из самых representaЭто протоколы пленарных заседаний муниципальных органов власти, которые местные органы власти обязаны заблаговременно публиковать на своих порталах. transparènciaв соответствии с Законом 19/2014 transparènciaдоступ к общедоступной информации и надлежащее управление. Опубликовано было только в 2024 году. более 8.000 пленарных заседаний на портале transparència АОС.

В протоколе могут содержаться персональные данные, не подлежащие публикации, такие как имена лиц, удостоверения личности, адреса, электронные адреса или банковские реквизиты. Их проверка Необходимо четко разграничить информацию, которая должна оставаться общедоступной, и информацию, которая должна быть скрыта для защиты прав пострадавших лиц.Это решение зависит не только от типа данных, но и от контекста, в котором они фигурируют в документе. Это задача, требующая времени, знания нормативных актов и тщательного соблюдения правовых критериев.

Например, имя выборного должностного лица на пленарном заседании не требует анонимизации, в то время как имя лица, затронутого решением о применении санкций, требует. Аналогично, дата рождения является персональными данными, которые обычно должны быть анонимизированы, в то время как дата административного действия является частью информации, которая должна оставаться общедоступной.

При выполнении этого процесса вручную, увеличивает рабочую нагрузку на ответственные команды, а также риск непреднамеренного раскрытия некоторых персональных данных.с вытекающими отсюда последствиями в плане соблюдения Общего регламента по защите данных (GDPR). Кроме того, при обнаружении неправомерной публикации персональных данных документ должен быть отозван, исправлен и опубликована новая версия, что является медленной процедурой, которую AOC приходится выполнять практически каждую неделю.

В этом контексте в 2025 году AOC рассмотрел вопрос о том, могут ли технологии искусственного интеллекта поддержать этот процесс, помогая сотрудникам муниципалитета выявлять персональные данные, которые необходимо анонимизировать, и при этом сохраняя человеческий контроль над окончательным решением.

Предложенное решение

Для решения этой проблемы AOC запустила пилотный проект (PoC), чтобы проверить, может ли генеративный ИИ автоматизировать анонимизацию протоколов пленарных заседаний муниципальных судов перед их публикацией на портале. transparència.

Данная инициатива исследует, как объединить способность генеративного ИИ интерпретировать контекст документов с участием человека, с целью снижения трудозатрат, связанных с этим процессом, минимизации рисков разглашения персональных данных и обеспечения соответствия нормативным актам о защите данных.

Цель состоит не в замене правовых критериев администраций, а в том, чтобы Предлагается инструмент поддержки, который автоматически обнаруживает персональные данные и предлагает варианты анонимизации, которые затем проверяются человеком перед публикацией документа. Такой подход позволяет использовать преимущества искусственного интеллекта, сохраняя при этом контроль человека над окончательным решением.

Концепция разработана как система с минимальным риском: ИИ не принимает автоматизированных решений в отношении людей и не затрагивает их права, а действует исключительно как вспомогательный инструмент для преобразования документов перед публикацией.

Каково решение?

Концепция представляет собой облачную веб-платформу, использующую модели генеративного искусственного интеллекта для идентификации и анонимизации персональных данных, содержащихся в пленарных заседаниях.

В отличие от традиционных систем, основанных исключительно на заранее определенных шаблонах, Платформа интерпретирует контекст документа. Это позволяет различать информацию, которая должна оставаться общедоступной — например, касающуюся выборных должностных лиц или деятельности учреждений, — и информацию, которая должна быть защищена, поскольку относится к персональным данным. Эта возможность особенно важна, поскольку решение об анонимизации информации часто зависит от контекста, в котором она появляется, а не только от типа данных.

Предложенное решение включает в себя несколько механизмов, гарантирующих качество и надежность процесса:

  • Контекстное обнаружение персональных данныхна основе генеративного искусственного интеллекта.
  • Белые спискикоторые позволяют исключать определенные термины из процесса анонимизации, чтобы избежать чрезмерной анонимизации.
  • Человеческий надзор («человек в петле»Таким образом, система лишь предлагает варианты анонимизации, и именно пользователь проверяет и подтверждает их перед публикацией документа.
  • Прослеживаемость и объяснимостьс фиксацией критериев, применяемых при каждой анонимизации, чтобы процесс можно было проверить и проанализировать.

Как это работает?

Процесс анонимизации состоит из четырех простых этапов:

  1. Пользователь загружает документ (PDF или DOCX) на платформу.
  2. Выберите критерии анонимизации, которые вы хотите применить (имена и фамилии, удостоверения личности, адреса, даты, номера телефонов, банковские счета и т. д.), и начните процесс.
  3. Система анализирует документ, интерпретирует контекст информации и генерирует предложение по анонимизации документа. Для этого она идентифицирует персональные данные, которые, согласно выбранным критериям, должны быть анонимизированы, и скрывает их с помощью масок.
  4. Пользователь просматривает результат, принимает или изменяет сгенерированные маски, может создавать новые, если обнаружит неанонимизированные персональные данные, и, наконец, загружает документ, подготовленный для публикации.

Результаты проверки концепции

Концепция была подтверждена с помощью 52 документа предоставлены 9 муниципалитетамиДополненная многочисленными внутренними тестами, проведенными AOC в ходе разработки решения, эта проверка позволила оценить как качество анонимизации, так и поведение платформы в реальных условиях использования.

Полученные результаты подтверждают техническую и функциональную осуществимость предложенного решения, а также адекватность модели, основанной на сочетании генеративного искусственного интеллекта и человеческого контроля. В частности, проверка позволила нам убедиться в следующем:

  • Платформа обеспечивает общую точность 96%.То есть, когда система идентифицирует фрагмент данных для анонимизации, она обычно делает это правильно, уменьшая необходимость проверки ложных срабатываний.
  • Общий показатель F1, объединяющий точность и охват обнаружения персональных данных в единый показатель качества, превышает 90%. В последнемeres В ходе итераций PoC был достигнут общий уровень качества выше 95%.
  • Сочетание искусственного интеллекта и человеческого контроля Это эффективная модель, позволяющая сократить ручной труд, сохраняя при этом необходимые гарантии перед публикацией документов.

Проверка концепции также позволила выявить основные проблемы, которые необходимо решить до окончательного внедрения в производство:

  • Увеличить зону обнаружения (Recall) чтобы уменьшить количество случаев, когда некоторые персональные данные могут оставаться неанонимизированными, особенно в документах со сложной или разнородной структурой.
  • Развивайте архитектуру решения. улучшить масштабируемость, производительность и эффективность, что позволит создать устойчивую систему совместного использования ресурсов для большого числа администраций.
  • Продолжайте обучение и совершенствование моделей. на основе полученных результатов и новых проверок с использованием реальных документов, с учетом знаний, полученных в ходе пользовательского анализа.

В этом смысле, PoC также позволил нам определить, как должна развиваться архитектура решения. Текущая версия решает весь процесс анонимизации с помощью одной высокопроизводительной модели генеративного ИИ, что является адекватным подходом для проверки жизнеспособности решения, но не очень эффективным для крупномасштабного развертывания. Ожидаемая эволюция отделяет идентификацию персональных данных от решения о том, какие данные следует анонимизировать в зависимости от контекста.Таким образом, на каждом этапе можно будет использовать наиболее подходящие и эффективные модели ИИ. Это развитие улучшит масштабируемость, производительность и устойчивость будущих сервисов общего пользования.

В целом, экспериментальная проверка подтверждает жизнеспособность данного подхода и обеспечивает прочную основу для дальнейшего развития решения в направлении его внедрения в производство.

Ресурсы и сотрудничество

Концепция была разработана совместно AOC, ответственной за функциональное руководство проектом; технологической компанией OMNIOS, отвечающей за разработку платформы и анализ результатов; и 9 городскими советами, предоставившими реальные документы для проверки решения в реальных условиях. representaиспользование.

С момента своего создания платформа разрабатывалась в соответствии с принципы безопасности, transparènciaотслеживаемость и человеческий контроль конкретно к системам искусственного интеллекта, применяемым в государственном секторе, с целью изучения модели анонимизации. с помощью искусственного интеллекта которая может развиться в направлении создания в будущем общей службы для местных администраций.

Ценность для местных организаций

Предложенная концепция демонстрирует потенциал генеративного ИИ для поддержки административных процессов, требующих большого объема документального анализа и тщательной юридической оценки. Если это решение разовьется в общедоступную услугу, оно может принести значительную пользу местным властям:

  • Снижение риска случайного разглашения персональных данных.свести к минимуму вероятность публикации информации, которая не должна быть доступна общественности.
  • Экономия времени и повышение эффективности. автоматизация значительной части процесса идентификации данных персональный и упрощенный ручной анализ.
  • Более высокая однородность в применении критериев анонимизации.содействуя более согласованному подходу к лечению между различными администрациями.
  • Дополнительные гарантии отслеживаемости и аудитаБлагодаря регистрации проведенных анонимизаций и примененным критериям.
  • Способность к постоянному совершенствованию решения.с учетом пожеланий пользователей и достижений в разработке все более мощных моделей искусственного интеллекта.

Выводы

Проведенная проверка концепции позволила подтвердить техническую и функциональную осуществимость инструмента, основанного на генеративном искусственном интеллекте, для поддержки анонимизации протоколов пленарных заседаний муниципальных судов перед их публикацией.

Полученные результаты показывают, что сочетание автоматического обнаружения и контроля со стороны человека является подходящим подходом для снижения рабочей нагрузки на местные организации и уменьшения риска разглашения персональных данных, при сохранении необходимых гарантий в процессе такого рода.

Прототип также позволил выявить основные области для улучшения перед возможным внедрением в производство, особенно в части обнаружения определенных типов персональных данных в сложных документах и ​​интеграции решения с сервисами AOC. Прототип обеспечивает прочную основу для дальнейшего развития проекта и оценки его трансформации в будущий общий сервис для местных администраций.

Статус проекта

Проведено исследование концепции и подтвержден потенциальный эффект. В настоящее время ведется работа по обеспечению преемственности инициативы путем заключения контракта на реализацию пилотного проекта с более широким охватом.

Больше информации

Блог AOC:

Презентации и статьи:

видео: