AOC приняла участие в макросеминаре по искусственному интеллекту, организованном Внутренним техническим комитетом Испанской сети умных городов (RECI) 14 сентября в Малаге, и поделилась своим опытом в области управления. transparència и подотчетность систем искусственного интеллекта.
Как нам перейти от общих принципов ответственного использования ИИ к эффективному управлению каждой системой искусственного интеллекта, которую мы внедряем в государственные службы?
Это был вопрос, который... Карме Каллес я Дэвид Пастор, Подразделение стратегии и инноваций АОК, мы приняли участие в макросеминаре RECI по искусственному интеллекту.
В блоге, посвященном будущему и муниципальной стратегии использования ИИ, был предложен путь от общего управления к конкретному случаю: Сант-Фелиу-де-Льобрегат представил карту аспектов, которые необходимо регулировать; Виладеканс – как эти аспекты применяются в реальной организации; а от AOC мы спустились еще на один уровень ниже: Как мы будем управлять каждой из систем искусственного интеллекта, которые мы внедряем в государственные услуги?
Когда объяснение принципов работы ИИ приводит нас к необходимости управления им
В AOC мы начали сотрудничество в 2023 году с доклады transparència алгоритмический (TRAL) Исходя из очень четкого вопроса: что мы должны объяснять гражданам, когда используем алгоритмы или искусственный интеллект в государственных услугах?
Цель заключалась в том, чтобы сделать эти системы более понятными, укрепить доверие к государственным услугам, использующим ИИ. и выполнять обязательства transparència которые включались в нормативно-правовую базу. Это исток нашей деятельности. инициатива transparència алгоритмический.
Опыт заставил нас вернуться к этой идее: чтобы иметь возможность объяснить и обосновать работу системы искусственного интеллекта, Сначала мы должны понять это, оценить это, предоставить гарантии и осуществлять надзор..
Это предполагает ответы на очень конкретные вопросы: зачем мы используем ИИ? С какими данными и технологиями он работает? Что может пойти не так? Какие права могут быть затронуты? Какие гарантии мы предоставляем? Как мы проверяем их работоспособность? Кто контролирует систему и несет за нее ответственность? И что мы объясняем общественности обо всем этом?
Итак, то, что начиналось в основном как инструмент transparència превращается в гибкий и практичный инструмент, который нам помогает. упорядочить, задокументировать и обеспечить прозрачность управления каждой конкретной системой искусственного интеллекта.с момента его проектирования и на протяжении всего жизненного цикла.
Однако TRAL не заменяет предусмотренные законом оценки и контроль в вопросах защиты данных, безопасности или основных прав: он дополняет их и помогает объединить различные точки зрения и обязанности, связанные с управлением системой искусственного интеллекта.
Неполная версия TRAL: от теории к практике
После презентации мы проверили эту идею на участниках с помощью динамического моделирования. «Неполный TRAL: найдите пробелы».
Задача началась с простого случая: городской совет использует ИИ для решения различных задач. Перед публикацией необходимо анонимизировать муниципальные акты., вариант использования, в котором AOC уже работаетИскусственный интеллект анализирует документ и предлагает, какие данные следует скрыть, но городской совет рассматривает результат и решает, что публиковать.
Участники получили документ TRAL, который на первый взгляд казался полным: в нем говорилось о цели, данных и технологиях, рисках, гарантиях, надзоре и ответственности. Но при этом он содержал слишком общие утверждения: риски были «контролируемыми», применялись «меры по снижению ошибок», а система проверялась «периодически», без указания того, какие меры применялись, как они проверялись, кто осуществлял надзор или кто реагировал в случае возникновения проблем.
Участники, разделившись на группы, должны были выявить эти пробелы и предложить способы их заполнения. Полученные данные были собраны в большой общий информационный ресурс (TRAL), который позволил совместно составить карту информации, необходимой для понимания системы, контроля за ее функционированием и обеспечения подотчетности за ее работу.
Умение задавать правильные вопросы — это тоже часть управления.
Этот семинар позволил нам проверить простую идею: Подготовка TRAL — это не просто заполнение разделов формы.Но для того, чтобы сформулировать вопросы, на которые нам необходимо ответить для эффективного управления системой искусственного интеллекта:
Понять → Оценить → Обеспечить → Контролировать → Объяснить → Ответить.
Потому что transparència Алгоритмизм — это не просто утверждение, что мы используем ИИ. Это означает умение объяснить, почему мы его используем, как мы им управляем, какие гарантии мы включили и как проверяем его работоспособность.
Именно над этим этапом мы сейчас работаем в AOC: над совершенствованием отчетов. transparència алгоритмические, чтобы они продолжали оставаться инструментом transparència для граждан и, в то же время, помочь нам воплотить принципы этичного и ответственного использования ИИ в жизнь. эффективное управление каждым вариантом использования.
