Когда речь заходит об искусственном интеллекте, обычно вспоминают алгоритмы, автоматизацию, виртуальных помощников, прогнозирование или инструменты, способные генерировать тексты, классифицировать документы или помогать в принятии решений. Но в государственном управлении, и особенно в городском совете, первый вопрос не должен звучать так: «Какой инструмент искусственного интеллекта мы можем купить или попробовать?».
Первый вопрос должен быть другим, например:
- Какую общественную проблему мы хотим решить?
- Мы хотим сократить время обработки?
- Хотим ли мы улучшить качество медицинского обслуживания граждан?
- Хотим ли мы выявлять социальные потребности до того, как они станут более серьезными?
- Хотим ли мы улучшить организацию реагирования на инциденты на дорогах общего пользования?
- Мы хотим содействовать transparència?
- Хотим ли мы помочь сотрудникам муниципалитета классифицировать документы или файлы?
- Хотим ли мы более эффективно использовать уже имеющиеся у нас данные?
Искусственный интеллект может помочь в решении многих из этих задач. Но его эффективность будет ограничена тем, насколько надежны, хорошо описаны, защищены и могут использоваться с гарантиями. Поэтому, прежде чем говорить об алгоритмах, необходимо поговорить о данных.
Продолжим обсуждение: инвентаризация, метаданные, качество, основные данные и роли.
В предыдущих постах этой серии мы разрабатывали основную идею:
Мы объяснили Что значит управлять данными в городском совете?, Зачем нам нужно знать, какими данными мы располагаем?, как метаданные помогают нам их понять, почему некорректные данные могут привести к плохому сервису, почему именно основные данные (Люди, территория, объекты, организации или поставщики) настолько важны и Какие роли и обязанности необходимо начать определять?.
Этот путь не случайно предшествует появлению искусственного интеллекта. Это его основа..
- Городской совет, не знающий, какими данными он располагает, вряд ли сможет использовать их для обучения, наполнения или проверки системы искусственного интеллекта.
- Городской совет, который не описывает свои данные с помощью метаданных, столкнется с трудностями в понимании того, откуда они берутся, что они означают и можно ли их использовать повторно.
- Городской совет, не проверяющий качество данных, может получить ошибочные результаты.
- Городской совет, не располагающий четкими основными данными, может предоставлять инструментам искусственного интеллекта дублирующуюся или противоречивую информацию.
- Городской совет, не знающий, кто за что отвечает, столкнется с трудностями в проверке, контроле или принятии ответственности за результаты.
Искусственный интеллект не заменяет управление данными: он в нём нуждается.
Хорошие данные важнее хороших алгоритмов.
Алгоритм может быть очень сложным, но если он работает с неполными, ошибочными, устаревшими или предвзятыми данными, то и результаты будут такими же.
Это особенно важно в государственном управлении, где принимаемые решения могут влиять на права, услуги, ресурсы, приоритеты и отношения с гражданами.
Например:
- Если система классифицирует запросы, но исторические файлы имеют неправильные метки, она будет учиться на предыдущих ошибках.
- Если инструмент анализирует социальные потребности, но данные неполны или недостаточно точно отражают ситуацию в определенных группах, это может привести к несправедливым выводам.
- Если автоматизированный помощник предоставляет информацию гражданам, но база знаний не обновлена, он может давать неверные ответы.
- Если инструмент transparència Анонимизация документов, но отсутствие четких критериев в отношении персональных и конфиденциальных данных может создавать риски.
Следовательно, качество, контекст, безопасность и контроль данных так же важны, как и используемая модель искусственного интеллекта.
Общедоступный ИИ должен иметь цель.
Не каждое применение искусственного интеллекта имеет смысл для городского совета. ИИ не должен быть мимолетной модой или гонкой за внедрением технологий. Он должен отвечать реальным потребностям и приносить пользу обществу.
Небольшому муниципалитету, возможно, не потребуется отдавать приоритет крупным системам прогнозирования, а скорее инструментам, которые помогают снизить административную нагрузку, классифицировать документы, направлять запросы, готовить проекты, выявлять ошибки, обобщать информацию или облегчать работу муниципальных служащих.
Ключевой вопрос: какую конкретную пользу это приносит гражданам или организации?
Целенаправленный ИИ должен помочь:
- Предоставляйте более гибкие сервисы.
- Сократите количество повторяющихся задач.
- Повысить качество информации
- Облегчить доступ к услугам
- Укрепить transparència
- Поддержка принятия решений
- Улучшить планирование
- Выявление неравенства или потребностей
- Освободить время сотрудников муниципалитета для выполнения более важных задач.
Но эту цель необходимо четко определить, прежде чем мы начнем. Технология не должна искать проблему. Общественная проблема должна направлять развитие технологии.
Этичный, безопасный и гарантированный искусственный интеллект.
Использование искусственного интеллекта в государственном секторе требует конкретных гарантий. Недостаточно, чтобы инструмент работал. Необходимо знать, как он используется, с какими данными, для каких целей, с какими ограничениями, с каким контролем и с какими рисками.
Общедоступный ИИ должен быть понятным, соразмерным, безопасным, контролируемым, прозрачным, объяснимым и уважающим права человека.
Это включает в себя задавание себе таких вопросов:
- Какие данные он использует?
- Содержит ли оно личные или конфиденциальные данные?
- Является ли цель законной и ясной?
- Существует ли риск предвзятости?
- Кто проверяет достоверность результатов?
- Можете объяснить, как была сделана эта рекомендация?
- Есть ли человек, ответственный за принятие окончательного решения?
- Можно ли провести аудит данной операции?
- Можно ли исправить ошибки?
- Были ли пострадавшие граждане или сотрудники надлежащим образом проинформированы?
Эти вопросы не являются препятствиями для инноваций. Они представляют собой условия для ответственных государственных инноваций.
Доверие имеет первостепенное значение. А без доверия публичный ИИ не сможет существовать устойчиво.
Цифровой суверенитет также включает в себя данные и искусственный интеллект.
Когда городской совет использует данные и искусственный интеллект, он также должен задуматься о своих возможностях контроля.
- Где находятся данные?
- Кто имеет к нему доступ?
- Можно ли их экспортировать?
- Можно ли их повторно использовать в других сервисах?
- Полностью ли поставщик обусловливает использование информации?
- Можно ли изменить решение, не потеряв при этом знания?
- Используемая модель прозрачна?
- Используются ли муниципальные данные для обучения сторонних систем без достаточного контроля?
Эти вопросы являются частью концепции цифрового суверенитета. Для муниципалитетов это особенно важно. Зачастую у них меньше возможностей для индивидуальных переговоров с поставщиками и меньше ресурсов для оценки сложных решений. Для этого необходимы общие критерии, общие услуги и поддержка.
Цифровой суверенитет не означает действовать во всем в одиночку. Он означает способность принимать обоснованные решения, избегать ненужной зависимости и обеспечивать управление общедоступными данными в интересах всего общества.
Территориальное равенство: ИИ не должен быть прерогативой только крупных муниципалитетов.
Искусственный интеллект может создавать возможности, но он также может усугублять неравенство, если воспользоваться им могут только наиболее обеспеченные ресурсами организации. Одна из главных задач на местном уровне — обеспечить доступ к знаниям, инструментам, услугам и поддержке для малых и средних муниципалитетов. К местному общественному ИИ необходимо подходить с точки зрения территориального равенства.
Это означает, что решения должны быть соразмерными, пригодными для повторного использования, доступными для всех и адаптируемыми к различным муниципальным реалиям.
Не все муниципалитеты имеют одинаковый размер, одинаковые данные, одинаковые системы или одинаковое оборудование. Но все они должны иметь возможность извлечь выгоду из более эффективной, гибкой и ориентированной на граждан администрации. Равенство цифровых возможностей также должно быть гарантировано между администрациями.
Local.iA: платформа для внедрения общедоступного, этичного, суверенного и целенаправленного искусственного интеллекта.
В этом контексте, Local.iAИнициатива, продвигаемая Провинциальным советом Барселоны, становится эталонной для создания основы для внедрения искусственного интеллекта в местном мире на основе общедоступных критериев.
Local.iA предлагает концептуальную и стратегическую основу для оказания помощи местным администрациям во внедрении ИИ ответственным и этичным образом, с использованием инструментов, моделей, учебных ресурсов и поддержки.
Этот подход особенно актуален, поскольку он рассматривает ИИ не просто как технологию, а как общедоступную возможность, которую необходимо использовать осознанно, демократично, прозрачно, этично, устойчиво и безопасно.
В нем также учитывается принцип территориального равенства; внедрение ИИ не может быть единообразным, а должно принимать во внимание разнообразные реалии местных образований и их возможности. Это идеально соответствует необходимости не отставать от других регионов, особенно малых и средних муниципалитетов.
Совместная стратегия с AOC и сетью «Умное местное самоуправление».
Local.iA является частью более широкой структуры институционального сотрудничества. Институциональное соглашение о содействии развитию «умных» органов местного самоуправления направлено на модернизацию и улучшение государственных услуг за счет использования данных и искусственного интеллекта, обеспечивая этичный и ответственный подход. Это соглашение было подписано между Генералитетом Каталонии, Localret, городским советом Барселоны, четырьмя каталонскими провинциальными советами и консорциумом AOC.
Эта общая стратегия имеет решающее значение для того, чтобы внедрение ИИ в локальном мире не разрознялось на отдельные инициативы, а развивалось на общих основаниях: управление данными, общие сервисы, этические критерии, цифровой суверенитет, обучение и повторное использование решений.
В рамках этой концепции консорциум AOC играет ключевую роль, предоставляя локальное пространство данных и общие сервисы, призванные дать возможность местным организациям использовать данные и искусственный интеллект, не начиная с нуля.
В настоящее время также ведется работа по расширению сети Local.iA за счет сотрудничества с другими каталонскими провинциальными правительствами. Этот процесс должен способствовать продвижению к реализации концепции развития страны, в которой накопленный опыт, знания и ресурсы принесут пользу всем местным органам власти в Каталонии.
Примеры использования: начните с конкретных проблем.
Для малых и средних муниципалитетов оптимальным вариантом является не начало с крупных проектов в области ИИ, а начало с конкретных и четко определенных сценариев использования.
В качестве примеров можно привести следующее:
- автоматически классифицировать экземпляры или запросы;
- помогает анонимизировать документы перед их публикацией;
- выявлять дубликаты или ошибки в муниципальных данных;
- краткое изложение файлов или сопроводительной документации;
- улучшить внутренние поисковые системы для поиска информации;
- поддерживать оказание медицинской помощи гражданам с помощью обновленных баз знаний;
- выявлять закономерности в дорожно-транспортных происшествиях;
- помочь в подготовке показателей управления;
- содействовать ознакомлению с внутренними правилами или процедурами;
- выявлять неполную информацию перед обработкой.
Эти случаи могут представлять большую ценность, если они четко определены. Но во всех них необходимы хорошо организованные данные, критерии качества, метаданные, распределение обязанностей, человеческий контроль и юридические гарантии. Искусственный интеллект может помочь, но он не может заменить общественную подотчетность.
Человеческий контроль: принятие государственных решений не делегируется машине.
Основной принцип использования ИИ в государственном секторе заключается в том, что ответственность остается человеческой и институциональной. Инструмент может рекомендовать, классифицировать, обобщать или выявлять закономерности. Но городской совет должен сохранить за собой возможность проверять, исправлять, анализировать и принимать решения. Это особенно важно, когда ИИ может влиять на права, доступ к услугам, приоритезацию ресурсов или обработку персональных данных.
Человеческий контроль — это не процедура. Это гарантия. Это также способ обеспечить сохранение профессиональных знаний сотрудников муниципалитета в качестве основополагающих. Искусственный интеллект должен помогать людям, работающим в муниципалитетах, а не заменять их право принимать решения в общественных интересах.
От культуры работы с данными к культуре ответственного использования ИИ
Культура работы с данными и культура искусственного интеллекта — это не две отдельные вещи, а очень взаимосвязанные. Администрация, не имеющая культуры работы с данными, вряд ли сможет создать ответственную культуру искусственного интеллекта. Для ИИ необходимо понимать, что такое данные, как они генерируются, кто их хранит, какого качества они обладают, какие риски содержат в себе и как их можно использовать законно и полезно. По этой причине предыдущие публикации также являются подготовкой к ИИ.
Инвентаризация данных, описание метаданных, повышение качества, организация основных данных и определение ролей — это не первоочередные задачи, не имеющие очевидной ценности. Это основы, которые позволят более безопасно и эффективно использовать искусственный интеллект.
Искусственный интеллект на службе локального мира
Искусственный интеллект может стать прекрасной возможностью для местных властей. Он может помочь сделать администрации более гибкими, эффективными, инициативными и более близкими к населению.eresЭто может освободить время, улучшить концентрацию внимания, укрепить... transparència и помочь принимать более взвешенные решения.
Но это принесет общественную пользу только в том случае, если будет основано на качественных данных, надлежащем управлении, этических критериях, цифровом суверенитете, человеческом контроле и территориальном равенстве.
Муниципалитеты малого и среднего размера не должны рассматривать ИИ как далёкую или недоступную технологию. Они должны видеть в нём возможность, которую необходимо создавать сообща.
Local.iA, сеть Smart Local Government Network, Институциональное соглашение и пространство данных Local World Data Space предлагают основу для совместного продвижения по этому пути. Потому что местный общественный ИИ должен быть не только умным. Он должен быть полезным, надежным, этичным, суверенным и направленным на улучшение жизни людей.
