Онлайн-совещание III DPD позволило AOC представить ход подготовки отчета. transparència алгоритмический (TRAL) и сопоставить его подход с подходами специалистов по защите данных. Рабочая группа по этичному и ответственному использованию ИИ В течение года велась работа над усовершенствованием этого отчета в направлении создания эталонной модели, которая сочетает в себе понятную для граждан информацию с поддающейся проверке ответственностью за риски, гарантии и управление системами искусственного интеллекта (ИИ).
Встреча, организованная APDCAT 29 октября в Биомедицинском исследовательском парке в Барселоне, собрала делегатов по защите данных (DPD) для обсуждения, среди прочего, проблем цифрового регулирования и искусственного интеллекта. Руководителями встречи были Карме Кальес, руководитель службы инноваций, и Патрисия Маллен, DPD AOC. практический семинар и презентация результатов работы Рабочей группыобъединены одним и тем же вопросом: Как сделать риски, меры защиты и управление системами искусственного интеллекта, используемыми любой организацией, видимыми, понятными и проверяемыми?
От риска к гарантии: применение управления рисками на практике.
Утром мы провели интерактивный семинар. «От риска к гарантии»В рамках проекта пятнадцать участников, распределенных по трем командам, работали над практическим кейсом: городской совет, использующий генеративный ИИ для подготовки анонимизированных пленарных заседаний перед их публикацией на портале. transparènciaЗадача заключалась в том, чтобы сделать transparència а также право доступа к общедоступной информации с защитой персональных данных.
Исходя из этого сценария, мы работали над двумя очень прямыми вопросами:
- Что может пойти не так? (риски)
- Что мы можем сделать, чтобы предотвратить или уменьшить эти риски? (Меры и гарантии)
Приоритетность, сгенерированная int совпаденийeresсвятые. Две из трех команд, занимающих ведущие позиции, подвергаются основным рискам, связанным с тем, что Искусственный интеллект не обнаруживает персональные данные, которые должны быть анонимизированы.Все трое также отдали приоритет риск отмены анонимизации Эти меры были приняты после публикации протокола. Другие существенные опасения касались чрезмерной уверенности рецензента в результатах ИИ, несанкционированного повторного использования документов поставщиком модели и случайной публикации непроверенной версии.
Предложенные ответы ясно показывают, что Для управления одним и тем же риском может потребоваться несколько мер, и одна и та же мера может способствовать контролю различных рисков.Эффективная проверка человеком, блокировка публикации без подтверждения, четкие критерии анонимизации, обучение пользователей, необратимая анонимизация, тестирование с различными форматами, контроль доступа или договорные гарантии в отношении повторного использования документов. Именно это было одним из принципов предложенной динамики.
Дискуссия была настолько содержательной, что мы не успели завершить третье задание, посвященное... объяснить общественности принципы управления рисками. (transparènciaОднако возможность уделить больше времени рискам и гарантиям позволила нам сравнить критерии и глубже изучить их, что также являлось одной из целей семинара.
Год, потраченный на создание общей эталонной модели.
Во второй половине дня мы провели презентацию. «От регулирования в области ИИ до доклада TRAL: от обязательств к единому целому» transparència это понятно"чтобы поделиться результатами работы, проделанной рабочей группой за последний год.
Группа была создана 30 октября 2025 года с целью развитияотчет transparència алгоритм AOC, TRAL, и двигаться к эталонной модели, применимой к различным сценариям использования и уровням риска.
Новая модель имеет двухслойную структуру:
- Слой transparència для граждан, которая объясняет работу сервиса простым языком: что он делает, почему использует ИИ, как работает, что может пойти не так, что мы делаем, чтобы этого избежать, и кто несет ответственность.
- Уровень управления и подотчетности, в котором более подробно описаны данные, функционирование, правовая квалификация и нормативные гарантии, человеческий фактор, управление рисками, мониторинг и имеющиеся доказательства.
Это позволяет наглядно и проверяемо подтвердить не только то, что организация использует ИИ, но и то, как она управляет этой системой и как она справляется с возникающими рисками.
И здесь есть важное различие: Соглашение TRAL не заменяет собой оценку воздействия на защиту данных (DPIA), оценку воздействия на основные права (FRIA), юридический анализ, техническую документацию или другие применимые оценки и обязательства.Напротив: она дополняет их, используя информацию и данные, полученные с помощью этих инструментов, и структурируя их с точки зрения transparència и помогает в понятной форме объяснить принятые гарантии.
Именно, один изeres Цели группы будут заключаться в завершении разработки новой модели TRAL для систем искусственного интеллекта с высоким уровнем риска, адаптации ее методологии управления рисками и изучении способов адекватного включения результатов FRIA, направленных на transparència.
От мастерской до TRAL
Дневная презентация позволила нам замкнуть круг утренней работы.
Когда участники определяли потенциальные проблемы, они руководствовались той же логикой, что и в разделе 1.6 TRAL. А когда они обсуждали, что мы можем сделать для предотвращения или снижения рисков, они закладывали основу для раздела 1.7. Эти разделы гражданского уровня синтезированы на основе более детального анализа рисков, мер и доказательств, задокументированных в уровне управления и подотчетности.
Участники подготовили не весь отчет TRAL, а лишь его основную часть: Определите, что нас беспокоит, решите, что мы делаем, чтобы это контролировать, и подготовьтесь к тому, чтобы объяснить это..
Transparència быть подотчетным
Третья онлайн-встреча по защите данных позволила нам сравнить нашу модель с моделями специалистов по защите данных и продолжить разработку подхода, который, как мы хотим, будет коллективным, междисциплинарным и адаптируемым к реалиям государственного управления.
Задача сейчас состоит в том, чтобы и дальше превращать эту методологию в инструмент. полезный, понятный, проверяемый и пригодный для повторного использования.что помогает нам превратить управление ИИ в transparència Эффективный и значимый для граждан.
