AOC 在国家最前沿创建人工智能算法的透明度登记册
这篇文章已有 1 年多了。内容可能不是最新的。
- 开放管理
AOC 认证其服务的安全性，这是赢得用户信任的关键因素
算法透明度是我们社会中越来越重要的话题，因为 人工智能 (AI) 算法 他们越来越多地被用来做出影响人们生活的决定。
为了确保算法的透明度，AI 算法必须能够被使用和影响它们的人所理解，这样他们才能理解某个决定是如何做出的以及为什么做出该决定； 以及可以审查算法以检测错误或无意的偏见并提高其准确性。
因此，透明度是实现和维持用户对人工智能系统信任的基本要求，也是促进负责任、安全和社会公平地开发和使用该技术的关键问题。
为符合要求 公共行政中使用的人工智能系统的透明度 现行条例在今天没有建立任何"具体"的法律机制或文书； 尽管欧盟理事会正在准备的 AI 法规指出，作为第一项建议行动，“注册和记录”可能受该法规约束的组织使用的 AI 系统。 其余法规谈到鼓励实施“机制”，以便参与决策的算法考虑到透明度标准，但没有具体说明； 或在网站上发布自动管理操作 (AAA) 列表，其中包含有关适用规则及其运作方式的信息。
我们正在做什么来确保 AOC 中 AI 算法的透明度？
作为实现 AI 算法使用透明度的一种手段，AOC 建议在透明门户网站上发布所使用的每种算法的解释表。
这是加泰罗尼亚和国家公共部门算法透明度的领先举措。
该倡议旨在成为以下工具：
- 向用户提供 AOC 中使用的算法系统的概述，包括有关其操作特征和结果的信息、已识别的风险和偏差以及已采取的纠正措施，以及特定的主体可以对决定提出上诉或对其一般运作提出质疑。
- 让每个人都能轻松发表意见并参与创建以人为本的算法。
因此，对于每个 人工智能算法 在 AOC 的数字管理服务中使用，我们将制作一份情况说明书，其中包含有关算法的目的和操作的一般信息，然后提供更详细的技术信息。 还将能够提交反馈，以帮助开发团队使我们使用的算法更好、更公平、更负责任。
您可以在下方查阅在我们的透明度门户网站上发布的倡议的第一个文件。 这是我们应用于 VALid、idCat Certificat 服务的会话聊天机器人的选项卡，并且很快将应用于透明门户网站本身。
想了解 AOC 对话式聊天机器人的 AI 算法背后的秘密吗？