Transparència algorithmisch: Automatisierung des Energiearmutsberichts (oder IRER)

Transparència algorithmisch: Automatisierung des Energiearmutsberichts (oder IRER)

Überblick 

Es handelt sich um einen Cloud-Dienst, der die soziale Berichterstattung über Energieschwachstellen automatisiert, sowohl den Managementprozess als auch die Erstellung des Berichts.

Anwendungsfall 

Soziale Berichte über Energieanfälligkeit, auch bekannt als Berichte über Energiearmut, werden monatlich von den Basic Areas of Social Services (ABSS) in Übereinstimmung mit dem erstellt Gesetz 24/2015 über dringende Maßnahmen zur Bewältigung der Notlage im Bereich Wohnungs- und Energiearmut. Ziel ist es, die wirtschaftliche Gefährdung von Personen oder Familieneinheiten nachzuweisen, die angesichts möglicher Ausfälle bei der Strom-, Gas- und Trinkwasserversorgung aufgrund von Zahlungsausfällen von Wohnraumausgrenzung bedroht sind.

Diese Berichte werden auf Anfrage der Zulieferunternehmen (mehr als 50 verschiedene Unternehmen) unter Beachtung des gesetzlich verankerten Vorsorgeprinzips erstellt.

Derzeit erfolgt die Datenverifizierung manuell und ist nicht standardisiert. Angesichts dieser Situation und der Tatsache, dass viele der für die Berichtserstellung notwendigen Daten über die Interoperabilitätsdienste abgerufen werden können, … Via ObertaDie AOC hat eine Cloud-Lösung entwickelt, um diesen Prozess zu automatisieren und die Interoperabilität zwischen Unternehmen, Kommunen und anderen Behörden bei der Datenverifizierung zu verbessern. Die Lösung ist eine komplexes Prozessautomatisierungssystem, das Technologien der robotergestützten Prozessautomatisierung (RPA) und der Geschäftsprozessmodellierung (BPM) nutzt. Darüber hinaus basiert es auf einem Cloud-Dienst, der von einem privaten Unternehmen bereitgestellt wird, erfordert keine Installation, lässt sich aber in viele andere AOC-Informationssysteme integrieren, beispielsweise in Interoperabilitätsdienste. Via Oberta und das Informationssystem für soziale Dienste Hèstia.

Risikostufe für KI-Systeme (gemäß den Kriterien der europäischen Künstlichen Intelligenz Verordnung (KIVO))

Obwohl dies Es handelt sich nicht um ein KI-System. —es handelt sich um eine RPA, die auf vordefinierten Regeln und vollständig deterministischen Entscheidungen basiert, ohne maschinelles Lernen oder statistische Schlussfolgerungen—, ihre Verwendung wird als hohes Risiko in Bezug auf soziale Auswirkungenweil es in einem besonders sensiblen Bereich (Energiearmut) tätig ist und Einfluss auf die Herausgabe eines Berichts mit entsprechenden rechtlichen und sozialen Folgen (zum Beispiel einer Stromabschaltung) nehmen kann.

Aus diesem Grund, selbst wenn die RIA formell nicht darauf anwendbar istEs wurde beschlossen, verstärkte Garantien anzuwenden transparènciaAufsicht und Rechenschaftspflicht, vergleichbar mit denen, die in Hochrisikosystemen erforderlich wären, angesichts der Tatsache, dass:

  • automatisiert einen Teil eines Verwaltungsvorgangs, der wichtige Folgen für die Menschen haben kann.
  • verarbeitet Daten von Personen in gefährdeten Situationen,
  • und wird in einen Prozess eingebunden, der maximale Garantie und Kontrolle erfordert.

Status

Pilot Der Dienst wird in 20 Gemeinden getestet. Pilotkommunen:

  • El Prat de Llobregat (65.030 Einwohner), Amposta (21.807 Einwohner), Granollers (61.983 Einwohner), Sant Boi de Llobregat (83.371 Einwohner), Palau Solità i Plegamans (14.911 Einwohner), Salou (30.087 Einwohner), Reus (108.535 Einwohner), Manlleu (21.182 Einwohner), Esparreguera (22.392 Einwohner), Esplugues de Llobregat (46.968 Einwohner), Badalona (226.219 Einwohner), Canovelles (17.264 Einwohner), Cardedeu (19.091 Einwohner), La Llagosta (13.070 Einwohner), La Roca del Vallès (10.956 Einwohner), Montornès del Vallès (817.039 Einwohner), Olesa de Montserrat (24.703 Einwohner), Sant Joan de Vilatorrada (10.972 Einwohner), Vila-seca (24.061 Einwohner) und Vilanova i la Geltrú (70.293 Einwohner)

Der erste Pilot, der gestartet wurde, war der von Prat de Llobregat im April 2023.

Hauptvorteile des Dienstes

 Vorteile für Bürger:

  • Besserer Service und flexiblere Aufmerksamkeit: Die Automatisierung und Standardisierung des Prozesses ermöglicht eine schnellere und genauere Reaktion auf Fälle von Energieproblemen, wodurch die Qualität der sozialen Dienste und die Aufmerksamkeit für gefährdete Menschen verbessert werden.
  • Stellen Sie den Zugang zur Grundversorgung sicher: Durch dieses System wird die Feststellung der Gefährdungssituation beschleunigt und sichergestellt, dass gefährdete Menschen und Familieneinheiten die Pflege und Grundversorgung erhalten, die sie benötigen.
  • Reduzierung der Bürokratie und Verbesserung der Benutzererfahrung: Der automatisierte Prozess vermeidet unnötige Verfahren und vereinfacht die Interaktion mit der Verwaltung, reduziert die Bürokratie und verbessert die Erfahrung von Bürgern in gefährdeten Situationen.

Vorteile für die Verwaltung:

  • Zeit und Ressourcen sparen: Erhebliche Reduzierung des Zeit- und Verwaltungsaufwands für die Erstellung von Energiearmutsberichten, was eine bessere Verwaltung der personellen und wirtschaftlichen Ressourcen der Verwaltung und eine Optimierung ihrer Leistung ermöglicht.
  • Standardisierung und Verbesserung im Datenmanagement: Durch die Integration mehrerer Datenquellen und deren Automatisierung wird eine präzisere und standardisierte Sicht auf die Energieanfälligkeitssituation erreicht, wodurch die Entscheidungsfindung verbessert und die Kommunikation zwischen Unternehmen, Kommunen und anderen Verwaltungen erleichtert wird.
  • Unterstützung für Kommunen mit begrenzten Ressourcen: Der Cloud-Service bietet die Möglichkeit des Zugriffs auf fortschrittliche Technologie, ohne dass große Investitionen in die Infrastruktur oder interne Ressourcen erforderlich sind.

Kontaktinformation 

Verantwortliche Stelle
Offene Verwaltung Kataloniens 

Kontaktieren Sie das Team für Anfragen
Unterdirektion für Strategie und Innovation

Team-E-Mail
innovacio@aoc.cat  

Externer Lieferant
BPM-Berater

E-Mail des Lieferanten
jordiburgas@consultorsbpm.com

Detailliertere Informationen zum Service 

Machen Sie sich mit den vom RPA-System verwendeten Informationen, seiner Betriebslogik und seiner Governance vertraut. 

Datensätze 

Eingabedaten 

Es werden hauptsächlich zwei Quellen für Eingabedaten verwendet:

1) Daten aus den von den Energieversorgungsunternehmen übermittelten strukturierten .xls-Dateien

  • TAGE
  • INE-Code der Gemeinde
  • Postanschrift des Eigentümers

2) Daten, die den Algorithmus zur Berechnung des Koeffizienten des Energiearmutsberichts speisen

A. Daten von Via Oberta

Via Oberta ist ein von der AOC angebotener Interoperabilitätsdienst zur Erleichterung des elektronischen Austauschs von Daten und Dokumenten zwischen Verwaltungen und öffentlichen Stellen im Rahmen eines Verwaltungsverfahrens und mit dem Ziel, das Recht der Bürger, bereits im Besitz befindliche Dokumente nicht beizutragen, wirksam werden zu lassen der öffentlichen Verwaltungen.

Durch die Dienste von Via Oberta Zur automatisierten Berechnung des Koeffizienten, der feststellt, ob sich die Person oder die Familieneinheit in einer Situation der Gefährdung befindet, werden die erforderlichen Daten herangezogen.

Konkret werden folgende Daten herangezogen:

  • Daten registrieren. Diese Abfrage ermöglicht:
    • Überprüfen Sie, ob die Person, die den Liefervertrag innehat, unter der Adresse registriert ist, die in der Datei angegeben ist, die die Energieversorger an die verschiedenen ABSS senden, in denen die betroffenen Verträge erfasst werden. Abfragemethode: Registrierungsdaten eines Inhabers.
    • Erhalten Sie die Gesamtzahl der Mitbewohner über 16 Jahren und deren Daten. Abfragemethode: Koexistenzdaten eines Inhabers.

Nachfolgend sind die vier konsultierten Dienste aufgeführt: Via Oberta die zu wirtschaftlichen Ergebnissen führen, die sich gegenseitig aufheben.

  • Einkommensdaten. Konsultationsmethode: C4 – Einkommen für Sozialleistungen der AEAT, wenn die Person eine Einkommensteuererklärung abgegeben hat; Anrechnungsbescheinigung, wenn der Steuerpflichtige nicht zur Vorlage verpflichtet ist.
  • Öffentliche Renten sind von der AEAT befreit. Diese Abfrage gibt die Anzahl der vorhandenen Datensätze und den Gesamtbetrag (Feld: Vergütung) zurück, der zum Gesamtbetrag addiert wird.
  • SEPE-Arbeitslosengeld. Aus dieser Abfrage wird der pro Periodenbescheinigung erzielte Betrag ermittelt (Feld: Bruttobetrag) und zum Gesamtbetrag addiert.
  • Öffentliche Sozialleistungen des INSS. Typ: laufende Renten. Aus dieser Abfrage werden die Anzahl der Zahlungen und der monatliche Bruttobetrag ermittelt.

Es werden auch 2 Dienste konsultiert. Via Oberta die keine Beträge zurückgeben, aber den Referenzschwellenwert beeinflussen:

  • SISPAP-Behinderung. Abfragemodus: Grunddaten. Aus dieser Abfrage werden Informationen darüber extrahiert, ob eine Anerkennung der Behinderung vorliegt oder nicht.
  • Abteilung des IMSERSO. Beratungsmethode: Grad und Grad der Abhängigkeit. Aus dieser Abfrage wird extrahiert, ob die Person einen Grad III – Stufe 1 oder 2 (hohe Abhängigkeit) hat.

Alle diese Beratungen werden für jedes Mitglied der Wohneinheit über 16 Jahren wiederholt. Nach der Addition dieser Beträge ergibt sich das Einkommen der Wohngemeinschaft. Diese Einkommen müssen mit den Referenztabellen verglichen werden, wobei die Vorgaben der Vorschriften zu berücksichtigen sind, um festzustellen, ob sie sich in einer Situation der Energieanfälligkeit befinden.

B. Daten vonHèstia oder eigenes soziales Informationssystem

Hèstia ist ein Informationssystem für soziale Dienste, das von mehr als 800 Kommunen genutzt wird (91 ABSS-Nutzer laut Daten von 2023). Es ermöglicht, die Akten der Sozialdienste der Bürger in elektronischer Form zu haben.

Die folgenden Daten können durch Einsichtnahme in die Sozialdienstakte des Inhabers eingeholt werden:

  • Energieabhängigkeit. (Artikel 5.13 des Gesetzes 24/20115)
  • Unmittelbare Gefahr, das Haus zu verlieren
Ausgabedaten

Vom Dienst generierte Daten und Dokumente:

  • Schwachstellenberichte
  • Beweise für den Prozess

❗Überlegungen zum Verarbeitung der Eingabedaten und Aufbewahrung von Schwachstellenberichten und Beweisen:

  • Die Daten, die während des Erstellungsprozesses des Energiearmutsberichts verwaltet werden, sind Eigentum der Gemeinden, die am Pilotprojekt teilnehmen. Die Pilotgemeinden unterzeichnen einen Auftrag zur Verarbeitung personenbezogener Daten mit dem Unternehmen, das den Dienstleistungsauftrag für die Implementierung der Lösung erhalten hat (ConsultorsBPM). Das AOC greift bei der Automatisierung der Meldung nicht auf personenbezogene Daten zu.
  • Die Verarbeitung der Eingabedaten umfasst:
    • Abwicklungsleiter (Pilotgemeinde)
    • Verarbeitungsmanager (ConsultorsBPM)
  • Schwachstellenberichte werden in einer Microsoft Sharepoint-Instanz von ConsultorsBPM gespeichert, auf die autorisierte Personen in den Pilotgemeinden mit einem Benutzernamen und einem Passwort Zugriff haben.
  • Beweismittel und dazugehörige Akten werden einen Monat lang aufbewahrt. Positive Schwachstellenmeldungen sind ein Jahr lang gültig und werden derzeit alle aufbewahrt.

Datenverarbeitung 

Die Betriebslogik der automatischen Datenverarbeitung und die vom System durchgeführte Argumentation basieren auf dem folgenden Modell und der folgenden Methodik: 

Schritt für Schritt des Prozesses
Das KI-System ermöglicht es der BPM AgilePoint-Plattform, die XLS-Dateien hochzuladen, die die Energieversorger an die verschiedenen ABSS senden, wo die betroffenen Verträge erfasst werden. Der Startbildschirm bietet die Möglichkeit, nach dem Passwort der Dateien zu fragen, da einige Unternehmen diese schützen.
Sobald die Datei hochgeladen ist, besteht der erste Schritt darin, eine Reihe von Prüfungen durchzuführen, z. B. ob das angegebene Unternehmen korrekt ist, ob die Datei passwortgeschützt ist und bereitgestellt wird usw.
Das System verarbeitet anschließend die Daten und startet den Prozess für jeden Datensatz. Zunächst prüft es, ob die Inhaber in der Gemeinde gemeldet sind und ob sie eine Akte bei der zuständigen Behörde hinterlegt haben.Hèstia, wodurch die spätere Einsichtnahme in die Daten gestattet wird.
Von hier aus berechnet das System parallel die Koeffizienten sowohl des Inhabers als auch der Begünstigten und führt die entsprechenden Aufrufe durch. Via ObertaSobald die Abfrage aller Dokumente abgeschlossen ist, berechnet das System den Koeffizienten, generiert automatisch das Modell für den Schwachstellenbericht und den Schild.

Der letzte Schritt ist die Kommunikation mit den Zulieferunternehmen (dieser letzte Schritt ist noch nicht automatisiert, er wird neu definiert und befindet sich in der Entwicklungsphase).

  • Prozessablaufdiagramm:

Servicearchitektur

Die Lösung läuft auf einer Cloud-Plattform des privaten Unternehmens ComsultorsBPM. Die Plattform heißt AgilePoint und dient zur Ausführung der RPA-Prozesse. Sie ist eine Multi-User-, Multi-Plattform- und Multi-Device-Ausführungsumgebung und ermöglicht kontrollierten Datenzugriff.

Die generierten Berichte werden in einem Microsoft Sharepoint-Repository gespeichert, das auf Microsoft Azure-Servern innerhalb der Europäischen Gemeinschaft gehostet wird.

Integrationen mit Via Oberta werden über Webdienste ausgeführt. Die Anfragen in Via Oberta werden mit dem elektronischen CDA-Siegel (Anwendungsgerätezertifikat) der Stadtverwaltung durchgeführt, die es an die Firma ConsultorsBPM weiterleitet.

Das Unternehmen ConsultorsBPM tätigt die Anrufe an Via Oberta von einer zentralen öffentlichen IP-Adresse.

  • Technologisches Diagramm:

Systemleistung 

Derzeit wird eine Erfolgsquote von 90 % erreicht. Mit rechtlichen und organisatorischen Änderungen könnte dieser Wert nahezu 100 % erreichen.

Menschliche Aufsicht 

Das System arbeitet direkt, erfordert jedoch die Aufsicht einer Person, die die Ergebnisse validiert, bevor sie an die Lieferunternehmen übermittelt werden. Menschliche Überwachung ist unerlässlich, um die Genauigkeit und Konsistenz der erstellten Berichte zu gewährleisten und mögliche Fehler in Einzelfällen zu vermeiden, die der Systemlogik entgehen könnten.

Einhaltung gesetzlicher Vorschriften des Systems

El Verantwortlich für die Behandlung (Pilotgemeinde), dieVerantwortlich für die Behandlung (ConsultorsBPM) und alle seine Mitarbeiter unterliegen den Datenschutzbestimmungen, insbesondere dem Organgesetz 3/2018 vom 5. Dezember über den Schutz personenbezogener Daten und die Gewährleistung digitaler Rechte (im Folgenden LOPDGDD) und der Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen und zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung), veröffentlicht im Amtsblatt der Europäischen Union Europäische Union – DOUE vom 4 –, im Folgenden RGPD).

In Bezug auf die DSGVO heben wir die Anwendung der folgenden Grundsätze hervor:

  • Grundsatz der Datenminimierung: Es werden nur die notwendigen Daten erhoben, um den Zweck des Dienstes zu erfüllen (Erstellung des Energiearmutsberichts, der durch die Verordnung geregelt ist). Gesetz 24/2015)
  • Grundsatz der Zweckbindung gemäß DSGVO: Die erhobenen Daten werden nur für den dem Betroffenen mitgeteilten Zweck verwendet.eresSada.

Bezüglich der Einwilligung der betroffenen PersoneresZur Veröffentlichung des Berichts über Energiearmut: Gemäß dem Autonomiestatut und dem katalanischen Sozialdienstgesetz 12/2007, die festlegen, dass jede Person das Recht hat, selbst zu entscheiden, ob sie Sozialleistungen in Anspruch nehmen möchte oder nicht, Die Person musseresSada erteilt ihre Zustimmung zur Erstellung dieses Berichts.

Auch die mit diesem Dienst verbundenen Informationssysteme entsprechen den geltenden Vorschriften.

  • Bezüglich der Interoperabilität (Konsultationen bei Via Oberta):
    • Erfüllen die Gesetz 39/2015 vom 1. Oktober über das gemeinsame Verwaltungsverfahren der öffentlichen Verwaltungen (Art. 28.2) i Gesetz 26/2010 vom 3. August über die Ordnung und das Verfahren der öffentlichen Verwaltungen Kataloniens (art 25.4)
    • Die gewonnenen Daten Via Oberta Sie sind in einer Verwaltungsdatei hinterlegt und können nur im Rahmen der von den Datenanbietern autorisierten Verfahren eingesehen werden.
    • Gemäß Artikel 1.1 der siebten Schlussbestimmung des Gesetzes 2/2014 über fiskalische, administrative und finanzielle Maßnahmeneres und der öffentliche Sektor, geändert durch Gesetz 5/2020 (Artikel 163), die Anfragen an Via Oberta werden ohne die Zustimmung der betroffenen Person durchgeführteresSada oder die Menschen in ihrer Wohneinheit. Obwohl eine Zustimmung nicht erforderlich ist, ist sie Die betreffende Person muss informiert werdeneressada, damit Sie der Dateneinsichtnahme durch die Verwaltung widersprechen können. (Artikel 28, Gesetz 39/2015). In diesem Fall muss die Person bei Widerspruch die Unterlagen selbst zur Verfügung stellen.

es ist ein Automatisierte Verwaltungsmaßnahmen (AAA)? Ja.

Dabei unterliegt der Pilotrat der gesetzlichen Verpflichtung, die mit dem Dienst verbundene AAA zusammen mit einem technischen Dossier in der E-Zentrale zu veröffentlichen (siehe Artikel 11, Buchstabe i). Königliches Dekret 203/2021, mit der die Verordnung über die Tätigkeit und den Betrieb des öffentlichen Sektors auf elektronischem Wege genehmigt wird; mit der das Gesetz 40/2015 über die Rechtsordnung des öffentlichen Sektors umgesetzt wird)

Risikomanagement 

Kennen Sie die wahrscheinlichsten Risiken in Bezug auf die zu schützenden Grundprinzipien und Rechte und die jeweils angewandten Maßnahmen, um die Einhaltung dieser Rechte sicherzustellen und die Risiken zu mindern.

A. Gleichheit und Nichtdiskriminierung
  • Identifizierte Risiken: mögliche Verzerrungen aufgrund der herangezogenen Verwaltungsdaten oder der im Verfahren festgelegten Regeln; uneinheitliche Anwendung in Einzelfällen; ungleiche Auswirkungen auf Personen oder Familien in prekären Lebenslagen.
  • Angewendete Maßnahmen
    • Das System ist deterministisch und folgt vordefinierten Regeln, wodurch Verzerrungen vermieden werden, die aus Trainings- oder maschinellen Lernprozessen resultieren.
    • Die Regeln und Berechnungskriterien wurden gemäß den geltenden Vorschriften (Gesetz 24/2015) festgelegt und werden mit den Pilotgemeinden überprüft, um eine faire und einheitliche Anwendung zu gewährleisten.
    • Die verwendeten Daten stammen aus offiziellen und verifizierten Quellen (Via Oberta, Volkszählung, Einkommen, Sozialleistungen...), wodurch das Risiko von Fehlern oder ungleicher Behandlung minimiert wird.
    • Um die Bei der digitalen Inklusion wurde besonderes Augenmerk auf die Benutzerfreundlichkeit gelegt, sodass der Prozess für die Sozialdienste der Gemeinden einfach, geführt und benutzerfreundlich ist.
    • La obligatorische menschliche Aufsicht Das Vorab-Versenden der Berichte gewährleistet die Erkennung spezifischer Fehler und Korrekturen in sensiblen Fällen oder Situationen, die von der Systemlogik nicht vorhergesehen wurden.
B. Datenschutz und Privatsphäre
  • Identifizierte Risiken: möglicher Missbrauch personenbezogener Daten durch Dritte, unbefugter Zugriff oder Beeinträchtigung der Privatsphäre von Personen in besonders schutzbedürftigen Situationen.
  • Angewendete Maßnahmen
    • Da das System Daten verarbeitet von gefährdete Menschen, kann erzeugen automatisierte Entscheidungen mit erheblichen Auswirkungen und nutzt fortschrittliche Automatisierungstechnologie; jede Pilotgemeinde muss eine Datenschutz-Folgenabschätzung (DSFA) bevor es in Betrieb genommen wird.
    • Das Dienstleistungsunternehmen fungiert als Datenverantwortlicher. und hat die entsprechende Behandlungsanordnung unterzeichnet.
    • Alle Daten werden verarbeitet und gespeichert innerhalb der Europäischen Union, in Übereinstimmung mit den Anforderungen der DSGVO.
    • Der Datenverantwortliche (jede Pilotgemeinde) gewährleistet die Ausübung der ARCO-Rechte (Zugang, Berichtigung, Löschung und Widerspruch)) der betroffenen Personen.
    • Im Modell der sozialen Betreuung ist es notwendig, die Zustimmung der Person im Innerenereseingerichtet für die Veröffentlichung des Berichts, gemäß Gesetz 12/2007 und Gesetz 24/2015.
    • Einwilligungen und Cookies im Zusammenhang mit den an dem Dienst beteiligten Informationssystemen werden angemessen verwaltet.
C. Sicherheit und Robustheit
  • Identifizierte Risiken: Nichtverfügbarkeit des Dienstes, unbefugter Zugriff, Datenlecks, Fehler bei der Berichtserstellung oder Inkonsistenzen im Ergebnis.
  • Angewendete Maßnahmen
    • Vor der Implantation ist es notwendig, eine Analyse der Dienstsicherheit die Hauptrisiken zu identifizieren und das System entsprechend zu kategorisieren Datenkritikalität behandelt. Diese Analyse gewährleistet die Angemessenheit hinsichtlich der Anforderungen derNationales Sicherheitsprogramm (ENS) für das entsprechende Sicherheitsniveau.
    • Der Vertrag mit dem Lieferanten regelt Folgendes: Service Level Agreements (SLAs) Diese Service-Level-Agreements (SLAs) definieren die Mindestparameter für Verfügbarkeit, Leistung und Reaktionszeit. Sie werden regelmäßig überprüft, um die Einhaltung sicherzustellen.
    • Der Zugriff auf die Daten und die generierten Berichte ist auf autorisierte Personen aus den Pilotgemeinden über Benutzerkennungen beschränkt.
    • Berichte und Beweismittel werden in einem sichere Cloud-Umgebung (Microsoft SharePoint, gehostet in der EU), mit kontrollierten Zugriffsmechanismen.
    • Aufrufe an Interoperabilitätsdienste Via Oberta werden durchgeführt mit Anwendungsgerätezertifikat (ADC) vom Stadtrat und von einer zentralisierten öffentlichen IP-Adresse, wodurch Rückverfolgbarkeit und Sicherheit verstärkt werden.
D. Transparència und Erklärbarkeit
  • Identifizierte Risiken: Intransparenz, Misstrauen, Desinformation.
  • Angewendete Maßnahmen
    • Um das Risiko von Intransparenz zu verringern und ein Verständnis für die Funktionsweise des Dienstes zu gewährleisten, wurde dies veröffentlicht. Blatt transparència algorithmisch auf der AOC-Website. Das Dokument erläutert klar die verwendeten Daten, die angewandten Regeln, den automatisierten Prozess und die Rolle der menschlichen Aufsicht.
    • Obwohl das System deterministisch ist, da es mit vordefinierten Regeln arbeitet und keine Inferenz- oder maschinellen Lernprozesse einbezieht, wurde dieses Dokument aufgrund der Sensibilität des Anwendungsfalls und seiner direkten Auswirkungen auf Menschen erstellt. Diese Entscheidung folgt den Kriterien, die auch bei anderen komplexen Automatisierungssystemen angewendet werden, wo es als relevant erachtet wird, ein Höchstmaß an Sicherheit zu gewährleisten. transparènciaVerständnis und Vertrauen in die Leistungsfähigkeit von Algorithmen, unabhängig davon, ob diese auf KI basieren oder nicht.
E. Aufbewahrung von Konten und Prüfbarkeit
  • Identifizierte Risiken: Rechtsunsicherheit, mangelnde Systemqualität
  • Angewendete Maßnahmen
    • Um die Kundenbindung und die Servicequalität zu gewährleisten, wurden verschiedene Mechanismen eingerichtet:
      • Obligatorische menschliche Aufsicht: Bevor der Schwachstellenbericht an die Zulieferunternehmen weitergeleitet wird, prüft und bestätigt eine Fachkraft des Sozialwesens das vom System generierte Ergebnis. Diese Überwachung gewährleistet Konsistenz und vermeidet Fehler mit potenziellen rechtlichen oder sozialen Folgen.
      • Kompliment normativ: Sowohl der Pilotstadtrat (Datenverantwortlicher) als auch ConsultorsBPM (Datenverarbeiter) und ihre Mitarbeiter halten die geltenden Datenschutzbestimmungen (DSGVO und LOPDGDD) sowie die Interoperabilitäts- und Verwaltungsverfahrensvorschriften (Gesetz 39/2015, Gesetz 26/2010 und anwendbare Vorschriften) ein. Via Oberta).
      • Verpflichtung zur Veröffentlichung als automatisierte Verwaltungsmaßnahme (AAA): Die Pilotgemeinden müssen gemäß Königlichem Dekret 203/2021 die zugehörige AAA-Nummer sowie das entsprechende technische Datenblatt im elektronischen Büro veröffentlichen. Diese Anforderung bekräftigt die transparència und die Rückverfolgbarkeit des automatisierten Verfahrens.
      • Risikoanalyse und kontinuierliche Verbesserung: Aufgrund der Sensibilität des Anwendungsfalls ist geplant, dass die Pilotkommunen eine Datenschutz-Folgenabschätzung (DSFA) durchführen. Darüber hinaus wird die Qualität des Systems anhand seiner Leistung (derzeit 90 % Erfolgsquote) bewertet, und es sind rechtliche und organisatorische Anpassungen vorgesehen, die diese Genauigkeit weiter verbessern könnten.
    • Diese Maßnahmen erleichtern die Überprüfung des Systembetriebs und gewährleisten einen soliden Rahmen für Verantwortung, Qualität und Rechtssicherheit bei der Nutzung des automatisierten Dienstes.

Weitere Informationen

2024.07.03-33rd-DIBA-Summer-School-Pilot-Energy-Poverty-v2Gering

Interessante Links: