为了改进文件生命周期管理并促进信息的适当维护,该服务 ERES 将纳入,来自……
第三届DPD在线会议使AOC得以展示报告的进展情况。 transparència 算法(TRAL)及其方法与数据保护专业人员的方法进行了对比。 伦理与负责任的人工智能工作组 一年来,我们一直在努力完善这份报告,使其成为一个参考模型,将公民能够理解的信息与人工智能 (AI) 系统的风险、保障和治理方面的可验证问责制相结合。
此次会议由APDCAT于10月29日在巴塞罗那生物医学研究园举办,汇聚了数据保护代表(DPD),共同探讨数字监管和人工智能等挑战。AOC创新服务主管Carme Callés和数据保护代表Patricia Mallén主持了会议。 一次实践研讨会和工作组成果展示因同一个问题而团结在一起: 如何使任何实体使用的 AI 系统的风险、保障措施和治理措施变得可见、可理解和可验证?
从风险到保障:风险管理的实践
上午我们举办了参与式研讨会。 从风险到保障其中,15 名参与者分为 3 个小组,共同研究了一个实际案例:一个市议会使用生成式人工智能在将全体会议内容发布到门户网站之前对其进行匿名化处理。 transparència挑战在于如何做到 transparència 以及在个人数据保护的前提下获取公共信息的权利。
基于这种情况,我们着手解决两个非常直接的问题:
- 会出什么问题呢? (风险)
- 我们该如何预防或降低这些风险? (措施和保证)
优先级生成匹配项eres圣徒队。三支球队中有两支位列主要风险之列,因为…… 人工智能无法检测出应该匿名化的个人数据。三者也都优先考虑了 匿名化逆转的风险 会议记录公布后,这些措施开始实施。其他突出问题包括审阅者对人工智能结果的过分自信、模型提供商未经授权重复使用文档,以及意外发布了未经验证的版本。
所提出的答案清楚地表明: 应对风险可能需要采取多种措施,而同一项措施也可能有助于控制不同的风险。有效的人工审核、未经验证禁止发布、明确的匿名化标准、用户培训、不可逆匿名化、不同格式测试、访问控制或关于文档重复使用的合同保证。这正是所提出的动态机制的原则之一。
讨论非常精彩,以至于我们没能完成第三项活动,这项活动专门讨论…… 向公众解释这种风险管理 (transparència然而,能够投入更多时间研究风险和保障措施,使我们能够比较各种标准并深入研究它们,这也是本次研讨会的目标之一。
一年时间构建共享参考模型
下午我们做了报告。 从人工智能监管到TRAL报告:从义务到一项 transparència 这是可以理解的。分享工作组过去一年来开展的工作。
该组织成立于2025年10月30日,旨在发展报告 transparència AOC算法TRAL,并朝着适用于不同用例和风险级别的参考模型迈进。
新模型由两层结构组成:
- 一层 transparència 对于公民而言它用清晰易懂的语言解释了这项服务:它的功能、为什么使用人工智能、它的工作原理、可能出现的问题、我们采取哪些措施来避免这些问题以及谁负责。
- 治理和问责机制其中更详细地记录了数据、运营、法律资质和监管保障、人工监督、风险管理、监控和可用证据。
这不仅可以让人看到和验证一个实体是否使用人工智能,还可以让人看到它如何管理该系统以及如何管理其产生的风险。
但两者之间存在一个重要的区别: TRAL 不取代任何数据保护影响评估 (DPIA)、基本权利影响评估 (FRIA)、法律分析、技术文档或其他适用的评估和义务。相反:它通过利用这些工具产生的信息和证据来补充它们,并从以下角度对它们进行结构化: transparència 并以通俗易懂的方式解释所采取的保证措施。
确切地说,其中之一是eres 该小组的目标是完成针对高风险人工智能系统的新TRAL模型,调整其风险管理方法,并研究如何充分整合FRIA研究结果的综合分析,旨在…… transparència.
从研讨会到TRAL
下午的汇报让我们得以与上午的工作形成一个完整的闭环。
当参与者识别出可能出现的问题时,他们的逻辑与TRAL第1.6节相同。当他们讨论如何预防或降低风险时,他们则为第1.7节奠定了基础。公民层面的这些章节是从治理和问责层面记录的更详细的风险、措施和证据分析中提炼出来的。
参与者并未撰写整个TRAL报告,但撰写了其中的一部分核心内容: 找出让我们担忧的事情,决定如何控制它,并做好解释的准备。.
Transparència 承担责任
第三届数据保护指令在线会议让我们有机会与数据保护专业人士对比该模型,并继续构建我们希望具有集体性、多学科性和适应公共行政实际情况的模型。
现在的挑战是如何继续将这种方法论转化为一种工具。 有用、易懂、可验证且可重用这有助于我们将人工智能治理转变为 transparència 对公民而言,既有效又有意义。