Опубликуйте запись пленарного заседания на портале transparència На первый взгляд, это может показаться простым процессом. Но прежде чем обнародовать информацию, её необходимо проверить, и все персональные данные, которые не должны быть опубликованы, должны быть анонимизированы. Это требует принятия решения в каждом конкретном случае о том, какая информация может оставаться видимой, а какая нуждается в защите. И это решение не всегда зависит от типа данных, а от контекста, в котором они появляются.
Эта задача может потребовать значительной ручной проверки и одновременно сопряжена с риском ошибок, которые могут привести к случайной публикации персональных данных. По этой причине в AOC мы изучили... Как генеративный искусственный интеллект может помочь в обеспечении анонимности гибким и надежным способоминтерпретируя содержание документов и автоматически предлагая, какую информацию необходимо анонимизировать, всегда под окончательным контролем человека.
Анонимизация, учитывающая контекст
Главное конкурентное преимущество разработанного решения заключается в его способности интерпретировать контекст документапомимо обнаружения данных на основе предопределенных шаблонов или систем распознавания сущностей.
Это позволяет, например, различать имя выборного должностного лица, которое должно быть обнародовано на пленарном заседании, и имя физического лица, фигурирующего в другом контексте и требующего анонимизации. Аналогичным образом, дата может являться частью институциональной информации, подлежащей публикации, или персональными данными, подлежащими защите.
Решения, основанные на шаблонах или распознавании сущностей, остаются полезными для идентификации определенных типов данных. Однако они не всегда могут определить, следует ли анонимизировать тот или иной фрагмент данных, поскольку это решение может зависеть от его функции в документе. Предложение AOC направлено на сокращение этого вмешательства путем объединения качество обнаружения, контекстная аналитика и автоматизация, не теряя при этом человеческого контроля над окончательным решением.
Искусственный интеллект под управлением человека
Процесс прост: пользователь загружает протокол, выбирает критерии анонимизации и запускает анализ. Система интерпретирует документ и генерирует анонимизированное предложение. Затем пользователь просматривает маски, изменяет их или добавляет новые, если считает необходимым, и загружает документ, готовый к публикации.
Эта модель человеческого контроля позволяет использовать возможности автоматизации ИИ без замены правовых критериев, установленных органами власти. Платформа также включает в себя белые списки для предотвращения чрезмерной анонимизации, а также механизмы отслеживания и объяснения, позволяющие проверять применяемые критерии.
Общая точность составила 96%.
Концепция была подтверждена на основе 52 документов, предоставленных 9 муниципалитетами, а также нескольких внутренних тестов, проведенных AOC. Результаты показывают, что Общая точность 96%.то есть, что Подавляющее большинство данных, которые система предлагает анонимизировать, идентифицируются корректно.Показатель F1, объединяющий точность и охват (способность обнаруживать все данные, которые необходимо анонимизировать), превышает 90%.
Эти результаты подтверждают техническую и функциональную осуществимость предложенного решения, а также потенциал сочетания генеративного ИИ и человеческого контроля для снижения рабочей нагрузки и риска случайного разглашения персональных данных.
На пути к будущей системе совместного обслуживания
Тестирование также позволило нам выявить области для улучшения, особенно в отношении охвата обнаружения в сложных документах и масштабируемости решения.
Проверка концепции завершена и подтвердила потенциал предложенного подхода. В настоящее время ведется работа по продолжению инициативы в рамках пилотного проекта с более широким охватом, что позволит и дальше совершенствовать решение и продвигаться к возможному созданию общей службы для местных администраций.
