Алгоритмическая прозрачность является темой, приобретающей все большее значение в нашем обществе, поскольку алгоритмы искусственного интеллекта (ИИ) они все чаще используются для принятия решений, влияющих на жизнь людей.
Для обеспечения алгоритмической прозрачности важно, чтобы алгоритмы ИИ могли быть понятны людям, которые их используют и влияют на них, чтобы они могли понять, как было принято определенное решение и почему оно принято; а также то, что алгоритмы можно пересматривать для обнаружения ошибок или непреднамеренных смещений и повышения их точности.
Таким образом, прозрачность является важным требованием для достижения и поддержания доверия пользователей к системам ИИ, а также важнейшим вопросом для продвижения ответственной, безопасной и социально справедливой разработки и использования этой технологии.
Для соблюдения требования прозрачность систем ИИ, используемых в государственном управлении существующие правила сегодня не устанавливают какого-либо «конкретного» правового механизма или инструмента; хотя Регламент ИИ, который готовится Советом ЕС, указывает в качестве первого рекомендуемого действия «зарегистрировать и задокументировать» системы ИИ, используемые организациями, которые могут подпадать под действие этого регламента. Остальные положения говорят о поощрении внедрения «механизмов», чтобы алгоритмы, участвующие в принятии решений, учитывали критерии прозрачности, не уточняя никаких; либо опубликовать на сайте список автоматических административных действий (ААА) с информацией о применяемых правилах и принципах их работы.
В качестве средства достижения прозрачности в использовании алгоритмов ИИ AOC предлагает публикацию на Портале прозрачности пояснительных листов для каждого используемого алгоритма.
Это ведущая инициатива алгоритмической прозрачности в государственном секторе Каталонии и государства.
Эта инициатива призвана стать инструментом для:
Таким образом, для каждого Алгоритм ИИ занятых в службах цифрового администрирования AOC, мы составим информационный бюллетень с общей информацией о назначении и работе алгоритма, а затем предоставим более подробную техническую информацию. Также будет возможность отправлять отзывы, чтобы помочь команде разработчиков сделать алгоритмы, которые мы используем, лучше, справедливее и ответственнее.
Ниже вы можете ознакомиться с первым файлом инициативы, опубликованным на нашем Портале прозрачности. Это вкладка для диалоговых чат-ботов, которые мы применяем к службам VALid, idCat Certificat и, вскоре, к самому порталу прозрачности.
Хотите узнать секреты алгоритмов ИИ диалоговых чат-ботов AOC?
Реестр прозрачности алгоритмов искусственного интеллекта в основном был вдохновлен отличным практическим опытом городских реестров.АМСТ. я также Хельсинки которые были лидерами в Европе.
