AOC создает реестр прозрачности алгоритмов искусственного интеллекта в авангарде государства.
Алгоритмическая прозрачность является темой, приобретающей все большее значение в нашем обществе, поскольку алгоритмы искусственного интеллекта (ИИ) они все чаще используются для принятия решений, влияющих на жизнь людей.
Для обеспечения алгоритмической прозрачности важно, чтобы алгоритмы ИИ могли быть понятны людям, которые их используют и влияют на них, чтобы они могли понять, как было принято определенное решение и почему оно принято; а также то, что алгоритмы можно пересматривать для обнаружения ошибок или непреднамеренных смещений и повышения их точности.
Таким образом, прозрачность является важным требованием для достижения и поддержания доверия пользователей к системам ИИ, а также важнейшим вопросом для продвижения ответственной, безопасной и социально справедливой разработки и использования этой технологии.
Для соблюдения требования прозрачность систем ИИ, используемых в государственном управлении существующие правила сегодня не устанавливают какого-либо «конкретного» правового механизма или инструмента; хотя Регламент ИИ, который готовится Советом ЕС, указывает в качестве первого рекомендуемого действия «зарегистрировать и задокументировать» системы ИИ, используемые организациями, которые могут подпадать под действие этого регламента. Остальные положения говорят о поощрении внедрения «механизмов», чтобы алгоритмы, участвующие в принятии решений, учитывали критерии прозрачности, не уточняя никаких; либо опубликовать на сайте список автоматических административных действий (ААА) с информацией о применяемых правилах и принципах их работы.
Что мы делаем для обеспечения прозрачности алгоритмов ИИ в AOC?
В качестве средства достижения прозрачности в использовании алгоритмов ИИ AOC предлагает публикацию на Портале прозрачности пояснительных листов для каждого используемого алгоритма.
Это ведущая инициатива алгоритмической прозрачности в государственном секторе Каталонии и государства.
Эта инициатива призвана стать инструментом для:
Предоставлять пользователям обзор алгоритмических систем, используемых в AOC, включая информацию о характеристиках и результатах их работы, выявленных рисках и предубеждениях и мерах, которые были применены для их исправления, а также об органе, перед которым конкретно решения могут быть обжалованы или его общее действие оспорено.
Сделайте так, чтобы каждому было легко высказывать свое мнение и участвовать в создании алгоритмов, ориентированных на людей.
Таким образом, для каждого Алгоритм ИИ занятых в службах цифрового администрирования AOC, мы составим информационный бюллетень с общей информацией о назначении и работе алгоритма, а затем предоставим более подробную техническую информацию. Также будет возможность отправлять отзывы, чтобы помочь команде разработчиков сделать алгоритмы, которые мы используем, лучше, справедливее и ответственнее.
Ниже вы можете ознакомиться с первым файлом инициативы, опубликованным на нашем Портале прозрачности. Это вкладка для диалоговых чат-ботов, которые мы применяем к службам VALid, idCat Certificat и, вскоре, к самому порталу прозрачности.
Реестр прозрачности алгоритмов искусственного интеллекта в основном был вдохновлен отличным практическим опытом городских реестров.Амстердам я также Хельсинки которые были лидерами в Европе.
