AOC参加了9月14日在马拉加举行的西班牙智慧城市网络（RECI）内部技术委员会人工智能宏观研讨会，分享了我们在治理方面的经验。 transparència 以及人工智能系统的问责制。
我们如何从负责任的人工智能的一般原则过渡到有效管理我们引入公共服务中的每个人工智能系统？
这是……的问题 卡梅·卡莱斯 我 大卫·帕斯特（David Pastor），， AOC战略与创新分局 我们参加了RECI AI宏观研讨会。
该博客致力于探讨人工智能的未来和市政战略，提出了一条从一般治理到具体案例的路径：圣费利乌·德·略布雷加特展示了需要治理的维度图；维拉德坎斯展示了这些维度如何在实际组织中部署；而从AOC（西班牙国家行政区）出发，我们又深入了一层： 我们如何管理引入公共服务的各个人工智能系统？
在AOC，我们从2023年开始与……合作 的报告 transparència 算法（TRAL） 从一个非常明确的问题出发：当我们在公共服务中使用算法或人工智能时，我们应该向公民解释什么？
目标是 使这些系统更易于理解，建立公众对使用人工智能的公共服务的信任。 并履行以下义务： transparència 这些都被纳入了监管框架。这是我们的起源。 主动 transparència 算法.
经验促使我们重新审视这个想法：为了能够解释和说明人工智能系统， 我们首先必须了解它，评估它，提供保障并监督它。.
这涉及到回答一些非常具体的问题：我们为什么要使用人工智能？它使用哪些数据和技术？可能会出现什么问题？哪些权利会受到影响？我们提供哪些保障？我们如何检验这些保障措施是否有效？谁负责监督和维护该系统？以及，我们如何向公众解释这一切？
所以，最初主要是…… 工具 transparència 正在发展成为一款灵活实用的工具，可以帮助我们 规范、记录并公开每个特定人工智能系统的治理结构。从设计到整个生命周期。
然而，TRAL 并不能取代法律规定的数据保护、安全或基本权利方面的评估和控制：它只是对它们进行补充，并有助于将人工智能系统治理中涉及的不同观点和责任结合起来。
演示结束后，我们通过互动环节对参与者进行了这一想法的检验。 “不完整的TRAL：找出差距”.
挑战始于一个简单的案例：一个市议会利用人工智能来帮助 在公布市政法令之前对其进行匿名化处理。一个用例，其中 AOC已经开始运作了。人工智能会分析文件并提出要隐藏哪些数据，但市议会将审查结果并决定公布哪些数据。
参与者收到了一份技术评估报告（TRAL），乍一看似乎很全面：它涵盖了目的、数据和技术、风险、保障措施、监督和责任。但其中的表述过于笼统：风险是“可控的”，已采取“减少错误的措施”，系统会“定期”审查，但并未具体说明采取了哪些措施、如何验证、由谁负责监督，以及出现问题时由谁来应对。
参与者分组进行，需要找出这些差距并提出弥补方案。所有贡献内容被汇总到一个大型共享的TRAL数据库中，共同构建了一幅信息地图，用于理解系统、监督系统运行并追究其责任。
这次研讨会让我们有机会检验一个简单的想法： 准备TRAL并非仅仅是填写表格的各个部分。但要真正有效地管理人工智能系统，我们需要提出以下问题：
理解→评估→确保→监控→解释→回应。
因为 transparència 算法不仅仅是指我们使用人工智能。 能够解释我们为什么使用它、我们如何管理它、我们采取了哪些保障措施以及我们如何检查这些措施是否有效。
而这正是我们AOC目前正在努力的方向：完善报告…… transparència 算法使其继续作为一种工具 transparència 为了公民，同时也要帮助我们把合乎伦理和负责任的人工智能原则转化为 对每个用例进行有效治理.
