Was bedeutet RAG bei KI-Agenten?

Ein Kunde möchte einen Termin verschieben. Gleichzeitig muss jemand prüfen, welche Frist laut Vertrag gilt. Ein KI-Agent kann diese Aufgabe nur sinnvoll unterstützen, wenn er die aktuelle Terminrichtlinie und die passenden Vertragsinformationen findet.

Genau darum geht es bei RAG. Die Abkürzung steht für Retrieval-Augmented Generation. Gemeint ist ein Verfahren, bei dem ein KI-Agent zunächst passende Informationen aus angebundenen Quellen abruft und sie anschließend für eine Antwort oder eine Aufgabe nutzt.

Wie funktioniert RAG bei KI-Agenten?

Der Ablauf lässt sich in drei Schritte gliedern:

1. Suchen: Der Agent erkennt, welche Informationen für die Aufgabe fehlen. Er durchsucht zum Beispiel freigegebene Richtlinien, Dokumente oder Vertragsinformationen.
2. Auswählen: Aus den gefundenen Inhalten wählt er die Abschnitte aus, die zur konkreten Frage passen. Je nach Aufgabe kann er mehrere Quellen oder Suchschritte benötigen.
3. Nutzen: Das Sprachmodell verarbeitet diesen Kontext und formuliert eine Antwort. Wenn es die Konfiguration erlaubt, kann der Agent anschließend auch eine Routineaufgabe ausführen.

RAG verbindet damit Unternehmenssuche und Sprachmodell. Neue Richtlinien oder Dokumente müssen nicht jedes Mal zum Training eines Modells werden. Sie können in die angebundenen und gepflegten Wissensquellen aufgenommen, verarbeitet und für die Suche verfügbar gemacht werden. Bei Bedarf ruft der Agent die relevanten Inhalte ab. IBM Research erklärt RAG ausführlicher.

Was unterscheidet RAG von einem KI-Agenten?

RAG ist eine Fähigkeit, aber kein vollständiger KI-Agent. Ein Agent bearbeitet eine Aufgabe, entscheidet abhängig vom Ziel über notwendige Such- und Arbeitsschritte und kann dafür Werkzeuge verwenden.

Für den praktischen Einsatz werden Ziele, verfügbare Werkzeuge und Grenzen festgelegt. Der Zugriff sollte technisch auf die für den jeweiligen Einsatz freigegebenen Informationen begrenzt werden. Ob der Agent eine Aktion selbst ausführt oder an einem bestimmten Punkt eine Entscheidung benötigt, hängt von der jeweiligen Konfiguration und dem Risiko der Aktion ab.

Wie zuverlässig sind RAG-Antworten?

RAG macht Antworten nachvollziehbarer, garantiert aber keine Richtigkeit. Sind die zugrunde liegenden Dokumente veraltet, widersprüchlich oder schlecht auffindbar, kann auch die Antwort falsch sein. Die Qualität hängt deshalb davon ab, ob passende und aktuelle Quellen angebunden sind und der Agent die richtigen Inhalte auswählt. Google Cloud beschreibt diesen Zusammenhang ebenfalls.

RAG bei Needs

Needs ist ein Agent OS mit gemeinsamem Firmenwissen. Mehr Informationen zu KI-Agenten und gemeinsamem Firmenwissen gibt es bei Needs.