Директор АОК, Микель Эстапеи руководитель отдела инноваций, Карме Каллес, представленный на Всемирном конгрессе Smart City Expo (SCEWC), инициатива transparència алгоритмический AOC применяет эти принципы в своих услугах. Главная цель — укрепление доверия к цифровым административным сервисам, использующим данные и искусственный интеллект (ИИ), при обеспечении этичного и ответственного использования. Сессия, состоявшаяся 7 ноября на стенде Àgora of the Catalonia на выставке SCEWC, была очень хорошо принята. От имени AOC мы хотели бы особо поблагодарить за присутствие участников. representaКаталонские городские советыeresспутники в этой инициативе.
В рамках этого проекта AOC стремится продвигать transparènciaспособствовать пониманию алгоритмов, поощрять участие граждан в их разработке и обеспечивать качественные данные для обучения моделей ИИ. Это также включает в себя обеспечение того, чтобы алгоритмы были свободны от предвзятости и регулярно контролировались.
Публикация отчетов transparència алгоритмический
Для достижения этих целей AOC разработала отчеты. transparència Эти отчеты, основанные на алгоритмах и содержащие стандартизированный контент, обеспечивают четкое и понятное представление о каждой системе искусственного интеллекта. В них доступным и простым языком объясняется принцип работы алгоритмов и их влияние на людей. Они являются инструментом для выполнения обязательств в соответствии с transparència Установлено в правилах, а также позволяет сравнивать различные алгоритмы искусственного интеллекта.
Отчеты соответствуют международным стандартам, таким как Амстердамская и Хельсинкская модели регистрации алгоритмов, Европейский алгоритмический стандарт Eurocities, а также рекомендациям ОЭСР и Национального института стандартов и технологий США. Эти стандарты помогли установить передовые методы, способствующие... transparència это имеет важное значение, позволяя гражданам лучше понимать, как используются их данные и для чего предназначены эти алгоритмы.
Методология управления рисками, ориентированная на защиту основных прав
Еще одним важным элементом инициативы стала разработка собственной методологии управления рисками для оценки влияния ИИ на фундаментальные права. Эта методология определяет фундаментальные принципы и права, на которые может повлиять использование больших объемов данных, обрабатываемых с помощью алгоритмов. Таким образом, AOC проводит оценку воздействия, которая позволяет провести доступный и понятный анализ рисков для неспециалистов.
Этот гибкий инструмент, основанный на действующих правилах, помогает выявлять и снижать риски дискриминации, уязвимости данных или предвзятости, которые могут повлиять на граждан.
Методика также адаптируется к требованиям Регламента по искусственному интеллекту (Закон об ИИ), в котором указывается необходимость анализа известных и прогнозируемых рисков в отношении здоровья, безопасности и основных прав. Таким образом, мы хотим обеспечить соответствие наших систем искусственного интеллекта стандартам безопасности. transparència и ответственность, необходимую для формирования доверия к цифровому управлению.
Вот презентация:
На сегодняшний день опубликовано три доклада:
Отчеты о:
- Чат-боты с генеративным искусственным интеллектом
- Автоматическая классификация происшествий на дорогах общего пользования
