算法透明度：能源贫困报告（或IRER）的自动化

算法透明度：能源贫困报告（或IRER）的自动化

概述 

它是一项云服务，可自动执行能源漏洞的社会报告，包括管理流程和报告的准备。

用例 

能源脆弱性的社会报告，也称为 能源贫困报告，由社会服务基本领域 (ABSS) 每月根据 第 24/2015 号法律，关于应对住房和能源贫困领域紧急情况的紧急措施。其目的是证明在面临因未付款而可能导致电力、天然气和饮用水供应中断的情况下，面临住宅排斥风险的个人或家庭单位的经济脆弱性。

这些报告是应供应公司（超过 50 家不同公司）的要求并遵循法律规定的预防原则生成的。

目前，数据验证过程以手动为主，缺乏标准化。鉴于这种情况，并考虑到编制报告所需的大部分数据可以通过 Via Oberta 的互操作性服务查阅，AOC 开发了一种云解决方案来自动化这一过程，从而提高公司、市政当局和其他行政部门之间验证数据的互操作性。解决方案是 复杂流程自动化系统，采用机器人流程自动化 (RPA) 和业务流程建模 (BPM) 技术。此外，它基于私人公司提供的云服务，不需要安装，但确实与许多其他AOC信息系统集成，例如互操作性服务。 通过奥伯塔 和社会服务信息系统 他是.

人工智能系统风险等级 （根据欧洲人工智能条例（RIA）的标准）

虽然该系统并非人工智能系统——因为它是一个基于预定义规则和完全确定性决策的 RPA，没有机器学习模型或统计推断——但它的使用意味着对人们有直接的潜在影响。

因此，尽管RIA并未正式应用，但该系统被认为具有一定的有效性。 社会影响方面风险较高， 自从：

  • 自动执行一项行政决策 可能产生法律影响 重要（例如，避免停电），
  • 处理个人数据 弱势,
  • 这是需要执行的程序的一部分 最大限度的保障和监管.

因此，尽管该系统不在 RIA 的范围内，但已选择对其进行强化，以应用与高影响力系统所要求的类似的透明度、监督和风险评估标准。

埃斯塔图斯

飞行员该服务正在 20 个城市进行测试。 试点城市：

  • El Prat de Llobregat (65.030 居民)、Amposta (21.807 居民)、Granollers (61.983 居民)、Sant Boi de Llobregat (83.371 居民)、Palau Solità i Plegamans (14.911 居民)、Salou (30.087 居民)、Reus (108.535 居民)、Manlleu (21.182 名居民)、Esparreguera (22.392 名居民)、Esplugues de Llobregat (46.968 名居民)、巴达洛纳 (226.219 名居民)、Canovelles (17.264 名居民)、Cardedeu (19.091 名居民)、La Llagosta (13.070 名居民)、La Roca del Vallès (10.956 名居民)居民）、Montornès del Vallès（817.039 名居民）、Olesa de Montserrat（24.703 名居民）、Sant Joan de Vilatorrada（10.972 名居民）、Vila-seca（24.061 名居民）和 Vilanova i la Geltrú（70.293 名居民）

首个试点项目是 Prat de Llobregat，于 2023 年 XNUMX 月启动。

服务的主要好处

 对公民的好处：

  • 更好的服务和敏捷的注意力：流程的自动化和标准化可以更快、更准确地响应能源脆弱性案例，提高社会服务质量和对处于危险中的人们的关注。
  • 确保获得基本物资：通过该系统，可以加快确定脆弱性情况，确保处于危险中的人和家庭单位获得所需的护理和基本用品。
  • 减少官僚主义并改善用户体验：自动化流程避免了不必要的程序并简化了与政府的互动，减少了官僚主义并改善了弱势公民的体验。

对管理的好处：

  • 节省时间和资源：大幅减少生成能源贫困报告所需的时间和行政任务，从而更好地管理政府的人力和经济资源并优化其绩效。
  • 数据管理的标准化和改进：通过整合多个数据源及其自动化，可以更准确、标准化地了解能源脆弱性情况，从而改善决策并促进公司、市政当局和其他管理部门之间的沟通。
  • 为资源有限的城市提供支持：云服务提供了访问先进技术的可能性，而无需对基础设施或内部资源进行大量投资。

联系信息 

责任机构
加泰罗尼亚开放管理 

联系团队进行询问
战略与创新分局

团队电子邮件
innovacio@aoc.cat  

外部供应商
业务流程管理顾问

供应商电子邮件
jordiburgas@consultorsbpm.com

有关该服务的更多详细信息 

熟悉RPA系统使用的信息、运行逻辑、治理方式。 

数据集 

输入数据 

使用两个主要的输入数据源：

1) 能源供应公司发送的结构化 .xls 文件中的数据

  • DNI
  • 城市 INE 代码
  • 持有人的邮政地址

2) 为计算能源贫困报告系数的算法提供数据

A. Open Way 数据

通过奥伯塔 是 AOC 提供的一项互操作性服务，旨在促进行政部门和公共实体之间在行政程序框架内进行数据和文件的电子交换，目的是实现公民不提供已拥有文件的权利公共行政部门。

通过 Via Oberta 的服务，可以查阅自动计算系数所需的数据，从而确定个人或家庭单位是否处于弱势状况。

具体查阅了以下数据：

  • 注册数据。 此查询允许：
    • 检查持有供应合同的人员是否按照能源供应商发送到记录受影响合同的不同 ABSS 的文件中显示的地址进行了登记。咨询方式：业主登记资料。
    • 获取16岁以上同居者总数及其数据。查询方式：持有者共存数据。

以下是 Via Oberta 的 4 项服务，这些服务可带来相辅相成的经济效益。

  • 收入数据。 咨询方式：C4 – AEAT 社会福利收入，如果该人已提交个人所得税申报表；当纳税人不需要出示时，提供归算证明。
  • 公共养老金免除 AEAT。 该查询返回现有记录的数量以及添加到总金额中的总金额（字段：报酬）。
  • SEPE 失业救济金。 从该查询中，获取每个期间证书获得的金额（字段：总金额）并将其添加到总金额中。
  • INSS 的公共社会福利。 类型：当前养老金。从此查询中获取付款次数和每月总额。

2 还咨询了 Via Oberta 服务，不会返还金额，但会影响参考阈值：

  • SISPAP 残疾。 查询方式：基本数据。从该查询中提取有关是否存在残疾认可的信息。
  • IMMERSO 部门。 咨询方式：依赖程度和程度。从该查询中可以提取该人是否具有 III 级 - 1 级或 2 级（高度依赖）。

所有这些咨询都会针对同居单位中年满 16 岁的每位成员重复进行。将这些金额相加后，即可获得同居单位的收入。这些收入必须与参考表进行比较，同时考虑到法规的具体规定，以确定它们是否处于能源脆弱状态。

B. Hestia数据或自己的社交信息系统

他是 是一个社会服务信息系统，有 800 多个议会使用（根据 91 年数据，有 2023 个 ABSS 用户）。它允许以电子格式保存公民的社会服务档案。

查阅持有人社会服务档案可获取以下数据：

  • 能源依赖。 （第5.13/24号法律第20115条）
  • 失去房屋的迫在眉睫的风险
输出数据

服务生成的数据和文档：

  • 漏洞报告
  • 过程证据

❗ 关于 处理输入数据并保存漏洞报告和证据:

  • 能源贫困报告生成过程中管理的数据归参与试点的委员会所有。试点委员会与授予解决方案实施服务合同的公司签署个人数据处理命令 (ConsultorsBPM)。 AOC 在自动化报告过程中不会访问任何个人数据.
  • 输入数据的处理涉及：
    • 处理经理（试点市）
    • 流程经理（顾问BPM）
  • 漏洞报告保存在 ConsultorsBPM 的 Microsoft Sharepoint 实例中，试点城市的授权人员可以通过用户名和密码进行访问。
  • 证据及相关档案保存1个月。正面漏洞报告的有效期为一年，目前全部保留。

数据处理 

系统自动数据处理和推理的运行逻辑基于以下模型和方法： 

流程的一步一步
AI系统允许BPM AgilePoint平台将能源供应商发送的.xls文件上传到记录受影响合同的不同ABSS。初始屏幕包括询问文件密码的功能，因为一些公司会保护它们。
文件上传后，第一步是执行一系列检查，例如提供的公司是否正确、文件是否受密码保护和提供等。
然后系统处理数据并启动每条记录的处理过程。首先，它检查持有者是否在市政府注册，并验证他们是否在 Hestia 注册了文件，该文件授权随后查阅数据。
从这里开始，系统并行计算持有人和各方的系数，并对 Via Oberta 进行相应的调用。所有文档查询调用完成后，系统计算系数，自动生成漏洞报告模型和漏洞报告模型 信号.

最后一步是与供应公司的沟通（最后一步尚未自动化，正在重新定义并处于开发阶段）。

  • 工艺流程图：

服务架构

该解决方案运行在由私营公司 ComsultorsBPM 提供的云平台上。该平台名为 AgilePoint，是 RPA 流程的执行平台。它是一个多用户、多平台和多设备的执行环境，并允许对数据进行受控访问。

生成的报告存储在欧洲共同体境内 Microsoft Azure 服务器上托管的 Microsoft Sharepoint 存储库中。

与 Via Oberta 的集成是通过 Web 服务进行的。 Via Oberta 的咨询是通过市政厅的 CDA 电子印章（应用设备证书）进行的，市政厅将其提供给 ConsultorsBPM 公司。

ConsultorsBPM 公司从集中式公共 IP 向 Via Oberta 进行呼叫。

  • 工艺图：

系统性能 

目前成功率达到90%。随着法律和组织的变化，这个数字可能达到几乎 100%。

人工监督 

该系统直接运行，但需要有人监督，在将结果发送给供应公司之前进行验证。人工监督对于确保生成报告的准确性和一致性至关重要，并避免在特定情况下可能出现的系统逻辑错误。

系统的监管合规性

El 负责治疗 （试点城市）负责治疗 (ConsultorsBPM) 及其所有员工均须遵守数据保护法规，特别是 3 月 2018 日关于保护个人数据和保障数字权利的第 5/2016 号组织法（以下简称 LOPDGDD）以及欧盟委员会第 679/27 号法规（EU）。欧洲议会和理事会于 2016 年 95 月 46 日通过了关于自然人保护和此类数据自由流动的法案，该法案废除了第 4/05/CE 号指令（一般数据保护条例，发布于欧洲议会官方公报）欧盟 -DOUE of 2016-XNUMX-XNUMX-，以下简称 RGPD）。

关于RGPD，我们强调以下原则的应用：

  • 数据最小化原则：仅收集必要的数据来实现服务目的（生成受国家监管的能源贫困报告） 第 24/2015 号法律)
  • RGPD 的目的限制原则：收集的数据仅用于向相关人员传达的目的。

关于有兴趣发布能源贫困报告的人的同意：根据《自治法》和《加泰罗尼亚社会服务法》12/2007，规定每个人都有权决定是否获得社会福利， 完成本报告需要利害关系人的同意.

与此服务相关的信息系统也符合现行法规。

它是一个 自动管理操作 (AAA)？ 是

在这种情况下，试点理事会有法律义务在电子总部公布与服务相关的 AAA，并附上技术文件（参见第 11 条第 i 款） 皇家法令 203/2021批准了《关于公共部门以电子方式开展行动和运作的条例》；实施了第 40/2015 号《公共部门法律制度法》

风险管理 

了解与需要保护的基本原则和权利相关的最可能的风险，以及在每种情况下为确保遵守这些权利并减轻风险而采取的措施。

A. 平等和不歧视
  • 已识别的风险：可能源于所查阅的行政数据或过程中所制定的规则的偏见；在特定情况下应用不一致；对处于弱势地位的个人或家庭单位造成不平等的影响。
  • 采取的措施
    • 该系统是确定性的，遵循预定义的规则，从而避免了训练或机器学习过程中产生的偏差。
    • 规则和计算标准已根据现行法规（2015 年第 24 号法律）制定，并与试点城市进行审查，以确保公平一致地应用。
    • 所用数据来自官方和经过核实的来源（Via Oberta、登记册、收入、福利等），最大限度地降低了出错或不平等对待的风险。
    • 为了促进 在数字包容方面，我们特别注重用户体验，力求使市政社会服务团队能够轻松、有指导地使用相关流程。
    • La 强制性人工监督 在发送报告之前，确保能够检测到特定错误，并在敏感案例或系统逻辑未预见的情况下进行更正。
B. 数据保护和隐私
  • 已识别的风险：第三方可能滥用个人数据、未经授权的访问，或对弱势群体的隐私造成影响。
  • 采取的措施
    • 由于系统处理来自以下的数据： 易感人群可以生成 具有重大影响的自动化决策 并采用先进的自动化技术，每个试点城市都必须开展一项 数据保护影响评估（DPIA） 在投入使用之前。
    • 服务提供商公司充当数据控制者的角色。 并已签署相应的治疗令。
    • 所有数据均经过处理和存储 在欧盟内部符合GDPR的要求。
    • 数据控制者（各试点市）保证ARCO权利的行使。 （查阅、更正、取消和反对））受影响人群。
    • 在社会关怀模式中，需要获得 同意 根据第 12/2007 号法律和第 24/2015 号法律，向相关方提交报告出具申请。
    • 与服务相关的信息系统相关的同意和 Cookie 都得到了妥善管理。
C. 安全性和稳健性
  • 已识别的风险：服务不可用、未经授权的访问、数据泄露、报告生成错误或结果不一致。
  • 采取的措施
    • 植入前，必须进行以下操作： 服务安全分析 识别主要风险并根据以下方式对系统进行分类： 数据关键性 已处理。此分析保证了其符合要求。国家安全计划（ENS） 对应相应的安全级别。
    • 与供应商签订的合同确立了 服务级别协议（SLA） 这些服务级别协议 (SLA) 定义了可用性、性能和响应时间的最低参数。我们会定期审查这些 SLA，以确保其得到遵守。
    • 只有试点城市的授权人员才能通过用户凭证访问数据和生成的报告。
    • 报告和证据存储在 安全的云环境 （Microsoft SharePoint，托管于欧盟），具有受控访问机制。
    • 对 Via Oberta 互操作性服务的调用是通过以下方式进行的： 应用设备证书（ADC） 来自市议会和集中式公共 IP，加强了可追溯性和安全性。
D. 透明度和可解释性
  • 已识别的风险：不透明、不信任、虚假信息。
  • 采取的措施
    • 为了降低信息不透明的风险，并确保人们了解该服务的工作原理，特此发布此信息。 算法透明度表 在AOC网站上。该文件清晰地解释了所使用的数据、适用的规则、自动化流程以及人工监督的作用。
    • 尽管该系统是确定性的，因为它遵循预定义的规则，不涉及推理或机器学习过程，但鉴于此用例的敏感性及其对人们的直接影响，我们仍然编写了这份说明。这一决定遵循了其他复杂自动化系统的相关标准，即确保算法行为（无论是否基于人工智能）的最大透明度、可理解性和可信度至关重要。
E. 账目保留和可审计性
  • 已识别的风险：法律不确定性、系统质量缺乏
  • 采取的措施
    • 为保证账户留存率和服务质量，已建立以下几种机制：
      • 强制性人工监督： 在将漏洞报告发送给供应公司之前，社会服务专业人员会对系统生成的结果进行审核和验证。这种监督确保了结果的一致性，并避免了可能造成法律或社会后果的错误。
      • 赞美标准： 试点市议会（数据控制者）和 ConsultorsBPM（数据处理者）及其工作人员均遵守现行数据保护法规（RGPD 和 LOPDGDD），以及互操作性和行政程序法规（第 39/2015 号法律、第 26/2010 号法律和适用于 Via Oberta 的法规）。
      • 有义务将此项内容作为自动化行政操作（AAA）予以公布： 根据皇家法令 203/2021，试点城市必须在电子总部公布与该服务相关的 AAA 以及相应的技术资料。这项要求加强了自动化程序的透明度和可追溯性。
      • 风险分析与持续改进： 鉴于此用例的敏感性，试点城市计划开展数据保护影响评估 (DPIA)。此外，系统质量将根据其性能（目前成功率为 90%）进行评估，并预计会进行法律和组织方面的调整，以进一步提高准确率。
    • 这一系列措施有助于对系统运行情况进行审计，并保证在使用自动化服务时建立稳固的责任、质量和法律确定性框架。

更多信息

2024.07.03-33日-DIBA-暑期学校-试点-能源-贫困-v2低

感兴趣的链接：