Erläuterung von Begriffen zur KI: LLM, RAG, KI-Agenten oder agentenbasierte KI
Teilen
Wer in den letzten Monaten Nachrichten über künstliche Intelligenz verfolgt hat, ist wahrscheinlich auf einen Wirrwarr von Akronymen gestoßen, die alle gleich klingen: LLM, RAG, KI-Agenten, agentische KI... Es wirkt wie ein Zungenbrecher, und es ist normal, sich dabei etwas verloren zu fühlen.
Die gute Nachricht ist, dass man kein Informatiker sein muss, um das zu verstehen. Diese Begriffe bezeichnen keine unterschiedlichen, konkurrierenden Modi: Sie sind Schichten, die übereinander geschichtet werdenJede Ebene löst ein anderes Problem. Wenn Sie verstehen, was jede Ebene leistet, können Sie auch besser einschätzen, welche für Ihre Arbeit nützlich ist und vor allem, wo die Risiken liegen.
Diese Publikation ist als grundlegender Leitfaden für alle in der öffentlichen Verwaltung Tätigen gedacht, die sich schnell einarbeiten möchten, ohne dass dafür Vorkenntnisse im technischen Bereich erforderlich sind.
Ebene 1. LLMs: die Grundlage von allem
Els LLM (aus dem Englischen) Große Sprachmodelle(d. h. große Sprachmodelle) bilden die Grundlage für Tools wie ChatGPT, Claude oder Gemini. Es handelt sich um Systeme, die mit riesigen Textmengen trainiert wurden und gelernt haben, etwas ganz Bestimmtes zu tun: Sprache kohärent erzeugen.
Was können sie gut? Schreiben, Zusammenfassen, Übersetzen, Konzepte erklären, Ideen liefern, einen Text so umformulieren, dass er verständlicher klingt... In ihrer täglichen Arbeit können sie Ihnen helfen, ein Rundschreiben zu entwerfen, die Schlussfolgerungen eines langen Berichts zusammenzufassen oder einen technischen Text in einfache Sprache zu übersetzen.
Es gibt jedoch eine wichtige Grenze, die beachtet werden muss: Ein LLM kennt Ihre Daten nicht.Er kennt weder die internen Richtlinien Ihrer Abteilung noch die spezifischen Verfahren Ihrer Organisation, noch die Beschlüsse des letzten Ausschusses. Er weiß nur, was er in seiner Ausbildung gelernt hat, und das könnte veraltet oder zu allgemein sein.
Daher sind LLMs zwar für allgemeine Aufgaben nützlich, lösen aber allein nicht die spezifischen Probleme der Verwaltung.
Ebene 2. RAG: Wissen hinzufügen
Hier befindet sich die RAG (Abrufgestützte Generation(oder erweiterte Generation durch Wiederherstellung). Der Name klingt sehr technisch, aber die Idee ist einfach: Verbinden Sie den LLM mit Ihren Dokumenten und Daten damit ich auf der Grundlage konkreter Informationen Ihrer Organisation antworten kann.
Stellen Sie sich eine Sachbearbeiterin vor, die, bevor sie eine Anfrage zu Subventionen beantwortet, die im DOGC veröffentlichten Rechtsgrundlagen, die internen Kriterien ihrer Abteilung und die häufig gestellten Fragen auf der Website nachschlägt. Genau das leistet ein Ampelsystem: Es ermittelt die relevanten Informationen und erstellt daraus eine fundierte Antwort.
Hier erkennen viele Verwaltungen ihren echten Nutzen. Einige Beispiele aus dem öffentlichen Sektor, wo ein Ampelsystem sinnvoll ist:
Ein interner Assistent, der anhand interner Handbücher Fragen der Mitarbeiter zu administrativen Abläufen beantwortet.
Ein Instrument zur Bürgerbeteiligung, das auf kommunale Verfahren unter Verwendung der offiziellen Dokumentation auf der Website reagiert.
Unterstützung für Techniker, die Fälle durch Konsultation von Vorschriften und Präzedenzfällen lösen müssen.
Es gibt jedoch eine wesentliche Bedingung: Die Qualität der Quellinformationen ist allesSind die Dokumente unübersichtlich, doppelt vorhanden, enthalten sie widersprüchliche Versionen oder weisen sie eine chaotische Struktur auf, werden die Antworten ebenso verwirrend sein. Die Maxime in dieser Welt ist klar: Müll rein, Müll rausWenn man "Müll"-Daten eingibt, kommen "Müll"-Antworten heraus.
Bevor man also in ein Ampelsystem investiert, sollte man sich eine grundlegendere Frage stellen: Sind unsere Informationen so gut organisiert, dass eine Maschine sie gut lesen kann? Lautet die Antwort Nein, dann ist der erste Schritt vielleicht nicht KI, sondern die Ordnung der Dokumentation.
Ebene 3. KI-Agenten: Vom Denken zum Handeln
Bislang hilft uns KI beim Verstehen und Schreiben. Aber die Agenten der IA Sie gehen noch einen Schritt weiter: sie handelnSie nutzen Werkzeuge, um Aufgaben zu erledigen: Sie können ein Dokument erstellen, eine E-Mail versenden, einen Datensatz aktualisieren, zwei Datenbanken vergleichen oder eine Reihe vordefinierter Schritte befolgen.
Der Wandel ist bedeutend. Bisher hat KI Ihnen beim Denken geholfen; jetzt hilft sie Ihnen beim Handeln.
Betrachten wir das Ganze einmal im Kontext der Verwaltung. Ein KI-Agent könnte:
Sie erhalten eine Anfrage, prüfen, ob die beigefügten Unterlagen vollständig sind, und erstellen gegebenenfalls eine Änderungsanfrage.
Prüfen Sie in einer Datenbank, ob der Antragsteller bereits offene Akten hat, und fügen Sie diese der neuen Akte hinzu.
Bereiten Sie die Benachrichtigung vor, füllen Sie sie mit den relevanten Daten aus und legen Sie sie zur Überprüfung und Unterzeichnung bereit.
Dieser Sprung eröffnet enorme Möglichkeiten zur Effizienzsteigerung, verändert aber auch die Art des Risikos. Wenn ein Tool lediglich Textvorschläge liefert, bleibt der Fehler in einem Entwurf erhalten, der von jemand anderem überprüft wird. Wenn ein Tool AktorenDer Fehler kann reale Konsequenzen haben: eine Anfrage, die an die falsche Person gesendet wird, Daten, die falsch aktualisiert werden, ein Verfahren, das ohne Grundlage eingeleitet wird.
Daher ist in dieser Ebene die Schlüsselfrage nicht mehr, ob das Werkzeug gut reagiert, sondern ob kann sicher handelnDas bedeutet, sehr genau zu definieren, was der Agent tun kann, was er nicht tun kann, wann er anhalten und eine menschliche Bestätigung anfordern muss und wie jede Aktion nachverfolgt wird.
Ebene 4. Agentenbasierte KI: Mehrere Agenten, die koordinieren
Wenn ein Agent bereits ein Sprung ist, Agentische KI ist das Folgende: mehrere Agenten arbeiten zusammen innerhalb desselben Arbeitsablaufs, jeder mit einer spezifischen Rolle.
In einem solchen Szenario könnte ein Agent einen Vorfall in einem Dienst erkennen, ein anderer die zugehörigen Daten prüfen, ein dritter das zuständige Team benachrichtigen und ein vierter eine erste Reaktion für die betroffene Person vorbereiten. All dies geschieht koordiniert und weitgehend autonom.
Es klingt beeindruckend, und das ist es auch. Aber es ist auch wesentlich komplexerJede Übergabe zwischen Agenten birgt das Risiko von Fehlern. Je autonomer die Agenten agieren, desto schwieriger ist es, genau nachzuvollziehen, was passiert ist, wer welche Entscheidung getroffen hat und warum.
Und hier stellt sich eine Frage, die auch in der Öffentlichkeit von nicht geringerer Bedeutung ist: Wer ist verantwortlich? Wenn ein System, das aus mehreren Akteuren besteht, eine Entscheidung trifft, die eine Person betrifft? Denn in der Verwaltung, anders als im privaten Sektor, genügt es nicht, dass das System die meiste Zeit funktioniert: Es muss in der Lage sein, jede Entscheidung, die einen Bürger betrifft, zu erklären, zu begründen und gegebenenfalls zu überprüfen.
Stelle dir die richtige Frage, bevor du weitermachst.
Wenn Sie einen Vorschlag oder eine Demo eines KI-Tools erhalten, achten Sie nicht darauf, ob es im Allgemeinen funktioniert, sondern darauf, welche Frage je nach Ebene beantwortet werden muss:
LLM - Schreiben Sie gut genug? Ist der generierte Text klar, nützlich und gut strukturiert?
RAG - Haben Sie gefunden, was Sie brauchen? Wissen Sie, wie Sie die richtigen Informationen in unseren Dokumenten finden?
Makler - Funktioniert es ordnungsgemäß? Bleibt die Aufgabe bei der Ausführung innerhalb der erwarteten Grenzen?
Agentische KI - Können wir als Organisation darauf reagieren? Wissen wir, was jeder einzelne Agent wann tut und wer die Verantwortung trägt, falls etwas schiefgeht?
Diese letzte Frage sollten Sie sich besonders vor Augen halten, wenn Sie über die Umsetzung einer Initiative entscheiden müssen. Denn sobald sich ein Bürger über eine ihn betreffende Entscheidung beschwert, muss jemand erklären können, was geschehen ist, wer die Entscheidung getroffen hat und nach welchen Kriterien. Lautet die Antwort „das System“, haben wir ein Problem.
Der praktische Rat: Beginnen Sie mit dem Problem, nicht mit der Technologie.
Wenn Sie nur eine einzige Idee aus diesem Beitrag mitnehmen dürfen, dann diese: Fragen Sie sich nicht zuerst, welche KI Sie einsetzen möchten, sondern beginnen Sie mit dem Problem, das Sie lösen möchten..
Allzu oft verläuft das Gespräch in die andere Richtung: „Wir wollen etwas mit agentenbasierter KI machen.“ Die richtige Frage lautet jedoch: „Gibt es einen konkreten Arbeitsplatz, an dem Zeit verschwendet wird, Fehler wiederholt auftreten oder Bürger zu lange warten müssen, und kann uns Technologie dabei helfen, dies zu verbessern?“
Wählen Sie von hier aus das einfachste Muster, das das Problem löstManchmal reicht ein LLM aus, um bei der Erstellung von Mitteilungen zu helfen. Manchmal ist ein RAG erforderlich, damit das System Ihre Vorschriften versteht. Und manchmal, ja, lohnt sich ein Agent. Komplexität ist jedoch nur dann gerechtfertigt, wenn sie einen echten Mehrwert bietet.
