Ab dem 2. August 2026 gelten die Verpflichtungen von transparència wie in Artikel 50 vorgesehen Europäische Verordnung zur künstlichen Intelligenz (RIA). Das Ziel ist einfach: Menschen darüber zu informieren, wann sie mit einem KI-System interagieren oder wann Inhalte mithilfe dieser Technologie generiert oder manipuliert wurden.
In der Praxis bedeutet dies, dass einige KI-Systeme eindeutig melden müssen, wenn eine Person mit einer künstlichen Intelligenz, wie beispielsweise Chatbots, interagiert. Bestimmte KI-generierte oder -manipulierte Inhalte müssen ebenfalls identifiziert werden, insbesondere sogenannte Deepfakes Inhalte, die die Öffentlichkeit über Angelegenheiten von allgemeinem Interesse informieren sollen, dürfen nicht durch KI generiert oder wesentlich verändert werden. Anbieter von Systemen zur Erzeugung von Bildern, Audio-, Video- oder anderen synthetischen Inhalten müssen zudem technische Mechanismen implementieren, die eine Erkennung dieser Inhalte als KI-generiert oder -verändert ermöglichen.
Diese Maßnahmen zielen nicht darauf ab, den Einsatz künstlicher Intelligenz einzuschränken, sondern vielmehr darauf, das Vertrauen zu stärken, das Risiko der Täuschung zu verringern und es den Bürgern zu erleichtern, auf informierte Weise mit diesen Technologien umzugehen.
Beim AOC arbeiten wir schon seit einiger Zeit in diese Richtung.
Für die AOC, die transparència Der Einsatz von KI ist nicht neu. Seit Jahren fördern wir Initiativen, die eine verantwortungsvolle, nachvollziehbare und menschenrechtskonforme Nutzung gewährleisten sollen. Diese Arbeit wurde 2023 mit dem Start von … umgesetzt. Initiative von transparència algorithmisch, über die wir verständliche Informationen über die KI-Systeme und andere relevante Automatisierungen veröffentlichen, die wir in unseren Diensten einsetzen.
Darüber hinaus weisen die AOC-Dienste, die sich direkt an Bürger richten und künstliche Intelligenz nutzen, von Anfang an explizit darauf hin, dass sie mit einer KI interagieren. Dies gilt beispielsweise für Chatbots mit generativer KI zur Unterstützung der Bürger, den GuIA-Assistenten im AOC-Supportportal oder den Videoidentifizierungsdienst zur Erlangung der...idCAT Mobil. Dieser Ansatz entspricht voll und ganz den Anforderungen der aktuellen europäischen Verordnung.
La transparència ist auch Teil der Regierungsführung
Neue europäische Verpflichtungen unterstreichen die Bedeutung angemessener Governance-Mechanismen. Aus diesem Grund entwickelt das AOC sein internes KI-Governance-Modell kontinuierlich weiter und integriert schrittweise neue Instrumente und Verfahren, um eine verantwortungsvolle Anwendung künstlicher Intelligenz zu gewährleisten.
Wenn ein KI-System an der Erbringung einer öffentlichen Dienstleistung oder an der Bearbeitung eines Verwaltungsverfahrens beteiligt ist oder relevante Auswirkungen auf Rechte haben kann,eresWir legen Wert auf die Erstellung eines Berichts, der die Situationen der Menschen berücksichtigt. transparència Algorithmus (infoTRAL), den wir als Mechanismus öffentlich zugänglich machen transparència und Rechenschaftspflicht, wodurch der Zweck des Systems, seine Funktionsweise, die identifizierten Risiken und die getroffenen Garantien klar erläutert werden können.
Für Systeme, die ausschließlich intern der Unterstützung von Mitarbeitern dienen und keine direkten Auswirkungen auf Bürger oder Entscheidungen haben, die Menschen betreffen, setzt das AOC hingegen ein leichteres Governance-Modell ein, das auf KI-Governance-Sheets basiert und dazu dient, den verantwortungsvollen Einsatz dieser Tools in angemessener Weise zu dokumentieren und zu überwachen.
Und wie sieht es mit den Zulieferern aus?
La transparència Die Verantwortung liegt nicht allein bei den Verwaltungen. Die Verordnung verpflichtet auch Anbieter von KI-Systemen. Daher integriert die AOC bereits schrittweise Anforderungen, Garantien und spezifische Klauseln im Zusammenhang mit künstlicher Intelligenz in ihre Vergabeverfahren, um die Einhaltung der geltenden Vorschriften, einschließlich der Verpflichtungen, durch die Anbieter sicherzustellen. transparència wie in der europäischen Verordnung vorgesehen.
Die Europäische Kommission hat kürzlich einen weiteren Schritt unternommen, indem sie eine erste Liste mit mehr als 180 Organisationen veröffentlicht hat, die sich dem Verhaltenskodex für transparència von KI-generierten Inhalten, eine Initiative, die die effektive Anwendung dieser neuen Verpflichtungen erleichtern soll.
Ein weiterer Schritt hin zu vertrauenswürdiger KI
Künstliche Intelligenz verändert öffentliche Dienstleistungen und bietet große Chancen, deren Effizienz, Zugänglichkeit und Qualität zu verbessern. Diese Transformation ist jedoch nur dann nachhaltig, wenn sie von folgenden Maßnahmen begleitet wird: transparènciaAufsicht und Vertrauen.
Das Inkrafttreten von Artikel 50 der europäischen KI-Verordnung representa ein neuer Schritt in diese Richtung. Wir im AOC werden weiterhin daran arbeiten, dass technologische Innovationen, transparència Und der Schutz der Menschenrechte geht Hand in Hand.
