Transparència 人工智能算法的应用—

挑战

如何实现用户对使用数据和人工智能算法的数字政务服务的信任，同时确保其负责任、安全和公平的使用。

建议的解决方案：每个数字服务都应在其主页和门户网站上包含以下内容： Transparència 由负责实体提供一份易于理解的报告，说明系统的运行情况及其对人们的影响。
→ 请参阅 PDF报告模板 transparència AOC算法（更新于2026年17月4日）

问题和当前背景

人工智能 (AI) 已成为我们日常生活中不可或缺的一部分。例如，政府使用它来改善公共服务的可及性和体验、优化流程或管理公共空间。

算法是人工智能系统的基础，对于使用和影响它们的人来说，算法通常就像“黑匣子”。为了防止这种情况发生， 用户可以理解算法是至关重要的，他们可以理解某个决定是如何做出的以及为什么做出这个决定. 就政府而言更是如此，政府只有在与公众之间建立信任时才能发挥作用。一个好的政府必须让所有公民都理解决策的原因，并有可能对它们提出质疑。

在民主政府中，信任由众多法律保障措施来维护。关于确保数字政府服务中使用的AI算法透明化的义务，法律规定了个人有权获得自动化决策的解释（GDPR），并规定建立“机制”，使参与决策的算法能够考虑相关标准。 transparència 以及可解释性（《2022年第15号综合法：平等对待和非歧视》），但并未建立任何具体机制或法律文书来实现这一目标。它仅提出建议，并将寻找最合适工具的权力留给各组织自行决定：

提供有关所使用算法的逻辑以及预期结果的有意义的信息，这些信息清晰且使用易于理解的语言，

让人们理解为什么算法给出了特定的结果，并指出他们可以对其特定决定提出上诉或质疑其一般操作的机构，

将算法开放给民主控制。

鉴于缺乏实现以下目标的具体机制、技术或方法 transparència 为了找到标准化的算法形式，AOC 于 2023 年进行了一项研究。 transparència 并优先了解我们应用于数字管理服务的算法。

这就是该倡议的出发点 transparència 我们提出的算法。

建议的解决方案

La transparència 在人工智能的开发和使用过程中，确保这项技术以负责任和公平的方式对社会使用至关重要。

作为实现该目标的一种手段 transparència 算法， AOC建议每个数字服务都在其主页和门户网站上包含相关信息。 Transparència 由负责实体提供一份关于系统运行及其所用算法的易于理解的报告。.

该倡议旨在成为以下工具：

帮助人们了解地方政府使用的算法是如何运作的，它们的用途是什么，以及它们会如何影响人们的生活。

提供 transparència 以标准化的方式表达意义，并允许对不同的算法进行比较，

让每个人都可以轻松发表自己的意见并参与以人为中心的算法的创建。

此外，尽管该计划主要侧重于人工智能系统， 还包括以下报告： transparència 敏感用例中的确定性算法，例如用于广泛社会援助的复杂自动化系统，遵循的标准是它们也能对人们产生相关影响。

→ 请参阅 PDF报告模板 transparència AOC算法（更新于2026年17月4日）

报告内容

每份报告 transparència 算法包含：

该算法需要解决的问题，
算法特点及其操作的解释，
可能受算法影响的群体，
基于以下因素对算法系统的风险等级进行评估：
- 已开展（视情况而定）风险分析或基本权利影响评估，以确定该算法可能存在的歧视性偏见；
- 对系统进行安全风险分析，以识别包含该算法的系统的可用性和安全性可能发生的意外情况，
- la 风险管理 制定的措施和采取的措施 确保基本权利得到遵守,
当法律要求时，可以对算法的特定决定提出上诉或质疑其一般操作的机构，
负责人和算法供应商的联系方式。

报告内容是如何确定的

确定报告的内容 transparència 2023年，创新与数据团队在AOC法律服务部门的支持下，开展了一项算法研究，其中包括：

一 对当时现行法规的分析 其中，主题是 transparència 针对人工智能算法做出的自动化决策，尤其要注意以下规则：

欧洲数据保护条例 (RGPD)
欧洲委员会关于人工智能使用条例的提案（人工智能法案）
关于公共部门法律制度 (LRJSP) 的第 40/2015 号法律以及公共部门通过电子方式执行和运作的规定 (RD 203/2021)
关于平等待遇和非歧视的综合法 15/2022

提供指导和建议的文件 实现安全可靠的人工智能。需要注意的是：

可信人工智能伦理指南，来自欧盟委员会人工智能高级专家组（2019 年 XNUMX 月）
欧洲委员会人权事务专员报告“拆箱人工智能：保护人权的 10 个步骤”（2019 年 XNUMX 月）
经合组织人工智能理事会建议的可信人工智能负责任管理原则（2019 年 XNUMX 月）
APDCAT“加泰罗尼亚的自动决策”报告（2020 年 XNUMX 月）
欧洲数字权利宣言和数字十年原则（2023 年 XNUMX 月）
NIST 人工智能风险管理框架工具（2023 年 XNUMX 月）

它们也被探索过。 倡议 transparència 不同管理机构的算法这些项目当时正处于开发阶段或近期已实施。值得注意的是：

赫尔辛基和阿姆斯特丹两市人工智能登记册——已实施
标准 transparència 基于英国标准的Eurocities算法——已实施
加泰罗尼亚自治区政府算法伦理工作框架提案（2021年5月）
巴塞罗那市议会的市政算法注册模型基于以下标准： transparència 摘自 Eurocities（2023 年 1 月）
加泰罗尼亚卫生系统 (SISCAT) 和加泰罗尼亚研究中心在 TIC Salut 社会基金会的 AI 健康观察站框架下收集的 AI 算法（2022 年 12 月）
加泰罗尼亚第三社会部门实体表人工智能算法雷达图（2024年1月）

研究结论

欧盟成员国通过《欧洲数字权利宣言》和《数字十年原则》承诺，确保数字权利达到充足水平。 transparència 在使用算法和人工智能方面，要让人们了解并接受培训，以便在与它们互动时能够正确使用它们。

为符合要求 transparència 关于公共管理领域人工智能系统的现行法规，具体规定了根据不同情况必须提供的信息。 [1]，但没有为此定义“具体”机制、标准化格式或法律文书；虽然：

《人工智能条例》规定了保存高风险人工智能系统所有相关信息的记录的要求（第17条）；
关于平等对待和不歧视的第 15/2022 号法律规定，要促进“机制”的实施，以便决策过程中涉及的算法能够考虑到最大限度减少偏见的标准。 transparència 以及问责制（第 23 条）；
《公共部门通过电子方式执行和运营的条例》规定有义务在其网站上发布自动管理行为 (AAA) 列表（可能涉及也可能不涉及人工智能算法的使用），并附有每个 AAA对其设计和操作的描述（第11条）。

我们研究了欧洲地方和区域政府正在推行的各种举措，以找到一种标准化的方法，使我们能够满足以下要求： transparència 我们应用于数字管理服务的 AI 算法。

在探索的所有举措中，根据现行法律义务，我们得出的结论是， 发布报告 transparència 门户网站上的算法 Transparència 它是 快速简单的解决方案 该 有助于满足以下要求： transparència 法规中规定的 i 允许获得用户的信任 在公共行政的人工智能系统中。

这项研究还使我们能够确定基于人工智能的公共服务需要提供哪些相关信息，以便用户了解算法如何做出决策以及这些决策如何得到验证。除此之外，这项研究使我们开发了一种灵活实用的方法来识别和分析与使用人工智能算法相关的最可能的风险 基本权利，并将它们与在每种情况下需要采取的措施联系起来，以保证遵守这些权利。

注重保护基本权利的风险管理方法

为了保证公共服务中人工智能的可靠、道德和安全，AOC 开发了自己的风险管理方法。该方法侧重于保护基本权利，解决可能影响公民的潜在风险，并详细说明如何减轻或最小化这些风险。该方法由三个主要步骤组成，每个步骤都有国际法规和准则的坚实基础。

第 1 步：确定基本原则和受保护的权利
为了确保人工智能尊重民主价值观，我们依赖《欧盟基本权利宪章》，它帮助我们定义可能受到人工智能影响的主要权利和原则。这些都是：
- A) 平等和非歧视
- B) 数据保护、隐私和个人自主权
- C) 安全性、稳健性和网络安全
- D) Transparència信息的可解释性和获取途径
- E) 责任、问责和可审计性
- F) 社会影响、可持续性和经济权利
步骤 2：识别相关风险及其与受保护原则和权利的关系
为了识别使用人工智能时最常见的风险，AOC 采用了人工智能风险管理框架（AI RMF 1.0） 来自 NIST，它将潜在风险与上述原则和权利联系起来。这种方法可以确定哪些风险可能危及每个家庭的基本权利，从而有助于预测和管理歧视、隐私或安全等问题。
第三步：确定风险管理措施
为了确定在每种情况下可能更适当和更有效的机制和保障措施，以避免侵犯基本原则和权利，我们依据了《公约》第二章。 可信人工智能的道德准则 欧盟委员会以及最近批准的人工智能法规（从2年8月2026日起强制实施）中，根据人工智能系统的风险水平以及针对某些人工智能系统或模型来确定机制。例如：
- 高风险须符合特定的安全要求 transparència以及在部署该系统之前进行与基本权利相关的影响评估的义务（第 27 条）
- 有限的风险：最低义务 transparència 使用户能够在与人工智能交互时做出明智的决定并保持警觉。

这种方法帮助我们维护一个透明、安全并致力于保护基本权利的人工智能系统。

→ 更多详情，请参阅完整文档： AOC人工智能系统风险管理方法论（PDF）

→ 在演示文稿（PPT，7 年 11 月 2024 日）您可以看到 AOC 风险管理方法的三个步骤的汇总表。

已发布的报告：

AOC 对话式聊天机器人 (26/5/2023)
通过视频识别获取idCat 移动设备（2024年2月2日）
能源贫困报告自动化 (5/2/2024) （本服务未使用人工智能，但报告已准备就绪） transparència 由于这是一个敏感的RPA（机器人流程自动化）应用案例，可能对人产生直接影响，因此，确保最大限度的安全至关重要。 transparència对算法性能的理解和信任（无论是否基于人工智能）
来自 AOC 的具有生成式人工智能的聊天机器人（2024 年 11 月 26 日） – 可从聊天机器人主页访问。

项目状态

生产中已发布四份报告。 transparència 算法。

Transparència 人工智能算法的使用

挑战