KI-Agent, Chatbot, Assistent, LLM: Welcher Unterschied im Arbeitsalltag zählt

Hinter einem Chatbot, einem KI-Assistenten und einem KI-Agenten steckt oft dasselbe Sprachmodell. Sie unterscheiden sich darin, wer die Arbeit zu Ende bringt. Ein Chatbot und ein Assistent liefern eine Antwort. Danach nimmt ein Mensch diese Antwort, prüft sie und trägt sie in die Systeme ein, in denen die Arbeit wirklich stattfindet. Ein KI-Agent übernimmt die Aufgabe selbst. Er liest und ändert Daten über angebundene Werkzeuge, prüft nach jedem Schritt, ob er vorankommt, und meldet sich erst, wenn eine Entscheidung ansteht, die er nicht treffen darf.

Für ein Unternehmen zählt dieser Unterschied mehr als alle anderen, weil er festlegt, wo Verantwortung liegt, welche Rechte eine Software bekommt und an welchen Stellen Arbeit zwischen Mensch und Maschine übergeben wird. Wie klug das Modell dahinter ist, spielt für diese Fragen eine kleinere Rolle, als die meisten Produktvergleiche vermuten lassen.

Das Sprachmodell ist der Motor, das Werkzeug kommt erst danach

LLM steht für Large Language Model, auf Deutsch großes Sprachmodell. GPT, Claude, Gemini und Mistral sind solche Modelle. Sie haben an riesigen Textmengen gelernt, zu einer Eingabe eine passende Fortsetzung zu erzeugen, und mehr tun sie für sich genommen nicht. Es geht Text hinein und es kommt Text heraus. Generative KI ist der Oberbegriff für Systeme, die auf diese Weise neue Inhalte erzeugen, also Texte, Bilder, Audio oder Programmcode.

Ein Sprachmodell allein kennt deine Kunden nicht, hat keinen Zugriff auf dein Postfach und merkt sich zwischen zwei Anfragen nichts. Alles, was du im Alltag als Chatbot, Assistent oder Agent erlebst, ist Software, die um ein solches Modell herum gebaut wurde. Diese Software bestimmt, welche Informationen das Modell bekommt, welche Werkzeuge es aufrufen darf und was mit seiner Ausgabe passiert.

Deshalb führt die Frage, welches Modell in einem Produkt steckt, bei der Auswahl oft in die falsche Richtung. Zwei Produkte mit demselben Modell können sich im Arbeitsalltag völlig verschieden verhalten, weil das eine nur antwortet und das andere handelt. Das Modell entscheidet, wie gut ein Text formuliert ist. Die Software drumherum entscheidet, ob danach etwas erledigt ist.

Chatbot: Antworten zu einem festgelegten Thema

Ein Chatbot beantwortet Fragen im Gespräch, meistens zu einem eng umrissenen Thema. Ältere Chatbots arbeiteten mit festen Entscheidungsbäumen und Schlüsselwörtern. Heute steckt oft ein Sprachmodell dahinter, das freier formuliert und eine Frage auch dann versteht, wenn sie anders gestellt wird als erwartet. Typische Einsätze sind der Kundenservice auf der Website oder ein interner Helpdesk, der Fragen zu Urlaubsanträgen oder Reisekosten beantwortet.

Das Ergebnis eines Chatbots ist eine Auskunft. Wer vom Chatbot erfährt, wie eine Rücksendung funktioniert, muss die Rücksendung danach trotzdem selbst anmelden.

Oft unterschätzt wird, dass schon eine bloße Auskunft Folgen hat. Air Canada musste 2024 für die falsche Antwort seines Website-Chatbots einstehen. Der Chatbot hatte einem Kunden erklärt, er könne einen Rabatt für Reisen im Trauerfall auch nachträglich beantragen, was nach den Regeln der Airline nicht stimmte. Air Canada argumentierte, der Chatbot sei für seine Aussagen selbst verantwortlich. Das Civil Resolution Tribunal in British Columbia, eine Instanz für kleinere zivilrechtliche Streitfälle, sah das anders und hielt fest, dass das Unternehmen für alle Informationen auf seiner Website verantwortlich ist, egal ob sie auf einer normalen Seite stehen oder von einem Chatbot kommen (Zusammenfassung der American Bar Association). Es ging um rund 650 kanadische Dollar Schadenersatz. Der Betrag ist klein, aber die Begründung trifft jedes Unternehmen, das KI nach außen sprechen lässt, weil sich die Verantwortung für eine Aussage nicht an die Software abgeben lässt.

KI-Assistent: Hilfe für eine Person, die selbst weitermacht

Ein KI-Assistent ist ein Allzweckwerkzeug für einzelne Menschen. Dazu gehören die Chat-Oberflächen der großen Modellanbieter und die KI-Schreibhilfen in Büroprogrammen. Du stellst eine Frage, und der Assistent entwirft eine E-Mail, fasst einen Vertrag zusammen oder baut eine Tabelle um. Viele Assistenten können inzwischen im Web suchen, hochgeladene Dateien lesen und einzelne Werkzeuge aufrufen.

Der Assistent arbeitet aber im Takt deiner Fragen. Er wird aktiv, wenn du etwas schreibst, und er ist fertig, wenn er geantwortet hat. Der Kontext steckt in deinem Gesprächsverlauf, den sonst niemand im Team sieht. Und die Schritte nach der Antwort bleiben bei dir, weil du den Entwurf ins Mailprogramm kopierst, die Preise mit der Warenwirtschaft abgleichst und die Wiedervorlage im CRM anlegst.

Ein Assistent macht also einzelne Menschen schneller, ohne dass eine Aufgabe ihren Schreibtisch verlässt. Wenn zehn Leute im Team jeweils ihren eigenen Assistenten nutzen, schreibt jeder etwas schneller. Die Übergaben, Nachfragen und Wiedervorlagen zwischen diesen zehn Leuten laufen aber genauso wie vorher.

KI-Agent: eine Schleife aus Planen, Handeln und Prüfen

Technisch ist ein KI-Agent erstaunlich schlicht aufgebaut. Anthropic beschreibt Agenten als Sprachmodelle, die in einer Schleife Werkzeuge benutzen und dabei auf die Rückmeldungen ihrer Umgebung reagieren (Building effective agents). Der Agent bekommt ein Ziel und plant einen ersten Schritt. Dann ruft er ein Werkzeug auf, etwa eine Abfrage im CRM oder das Anlegen eines Termins, liest das Ergebnis und entscheidet auf dieser Grundlage über den nächsten Schritt. Das wiederholt sich, bis die Aufgabe erledigt ist oder etwas im Weg steht.

OpenAI zieht die Grenze in seinem Leitfaden zum Bau von Agenten sehr deutlich. Ein Agent nutzt das Sprachmodell, um den Ablauf einer Aufgabe selbst zu steuern. Er erkennt, wann die Aufgabe abgeschlossen ist, und gibt die Kontrolle an den Menschen zurück, wenn er scheitert. Anwendungen, die zwar ein Sprachmodell einbauen, es aber nicht den Ablauf steuern lassen, zählt OpenAI ausdrücklich nicht dazu, und nennt als Beispiel einfache Chatbots.

Aus dieser Definition folgt, was einen Agenten im Alltag vom Assistenten unterscheidet. Er hat Zugriff auf die Systeme, in denen die Arbeit liegt, und darf dort auch schreiben. Er weiß, woran er erkennt, dass eine Aufgabe fertig ist. Und er braucht nicht für jeden Zwischenschritt einen neuen Auftrag, weil er den nächsten Schritt selbst bestimmt. Deshalb kann ein Agent auch arbeiten, wenn niemand vor dem Bildschirm sitzt, etwa zeitgesteuert oder weil eine neue E-Mail eingegangen ist.

Derselbe Auftrag, einmal mit Assistent und einmal mit Agent

Wie groß der Unterschied ist, siehst du an einer gewöhnlichen Anfrage. Ein Bestandskunde schreibt per E-Mail, dass er 400 Stück eines Artikels bis Monatsende braucht, nennt aber die Ausführung nicht.

Mit einem Assistenten kopiert die zuständige Mitarbeiterin die Mail in den Chat und bittet um eine Antwort. Der Assistent formuliert eine freundliche Rückfrage zur Ausführung. Einen Preis schlägt er nicht vor, weil er die Konditionen dieses Kunden nicht kennt. Die Mitarbeiterin schaut also selbst in die Warenwirtschaft, ob genug Bestand da ist, prüft im CRM die Rahmenkonditionen, passt den Entwurf an, schickt ihn ab und legt eine Wiedervorlage an. Die KI hat einen von sechs Schritten übernommen, und zwar den, der am wenigsten Zeit gekostet hat.

Ein Agent mit Zugriff auf Postfach, CRM und Warenwirtschaft liest die Anfrage, erkennt den Bestandskunden, prüft den Bestand und stellt fest, dass die Ausführung fehlt. Er schickt dem Kunden die Rückfrage, weil das eine erlaubte Routineaktion ist, und legt den Vorgang im CRM mit Wiedervorlage an. Wenn der Kunde antwortet, erstellt der Agent ein Angebot mit den hinterlegten Konditionen. Ein Angebot ist eine verbindliche Zusage an den Kunden, deshalb kann das Unternehmen festlegen, dass es erst nach einer Freigabe hinausgeht. Die Mitarbeiterin sieht dann ein fertiges Angebot mit den Zahlen, auf denen es beruht, und entscheidet nur noch, ob es so rausgeht.

Die Formulierung der Rückfrage ist in beiden Fällen etwa gleich gut. Der Unterschied liegt in den fünf Schritten zwischen den Systemen, die im ersten Fall ein Mensch erledigt und im zweiten Fall der Agent.

Was sich im Team verschiebt, wenn ein Agent mitarbeitet

Solange eine KI nur antwortet, bleibt die Organisation, wie sie ist. Der Mensch, der die Antwort verwendet, ist für das Ergebnis verantwortlich, und er braucht keine neuen Rechte, weil er ohnehin mit seinen eigenen Zugängen arbeitet. Sobald ein Agent handelt, musst du drei Dinge bewusst festlegen, die vorher niemand festlegen musste.

Verantwortung

Bei einem Assistenten ist klar, wer eine E-Mail verschickt hat. Bei einem Agenten liegt die Verantwortung für die einzelne Aktion in der Einrichtung, also bei der Person, die entschieden hat, dass der Agent Rückfragen an Kunden selbst verschicken darf. Das ist dieselbe Art Verantwortung, die eine Teamleiterin übernimmt, wenn sie einem neuen Kollegen einen Aufgabenbereich überträgt. Jemand muss für den Bereich des Agenten zuständig sein, seine Ergebnisse stichprobenartig ansehen und die Regeln nachschärfen, wenn etwas schiefgeht. Die Logik aus dem Air-Canada-Fall gilt hier erst recht, weil ein Agent nicht nur Aussagen macht, sondern Vorgänge auslöst.

Rechte

Die OWASP-Liste der wichtigsten Sicherheitsrisiken für Sprachmodell-Anwendungen führt dafür ein eigenes Risiko mit dem Namen „Excessive Agency“, also zu viel Handlungsspielraum (OWASP LLM06:2025). Die Ursachen sind zu viele Funktionen, zu weit gefasste Berechtigungen und zu viel Autonomie bei folgenreichen Aktionen. Das Beispiel dort ist aufschlussreich. Ein KI-Werkzeug soll E-Mails nur zusammenfassen, die eingebundene Erweiterung kann aber auch Mails versenden. Eine präparierte eingehende Mail enthält versteckte Anweisungen, und das Modell folgt ihnen und leitet vertrauliche Inhalte an den Angreifer weiter. Das funktioniert, weil ein Sprachmodell nicht zuverlässig zwischen den Anweisungen seines Nutzers und Text unterscheiden kann, den es gerade liest.

Daraus folgt eine Regel, die für Geschäftsführer leicht zu prüfen ist. Welche Aktionen ein Agent ausführen darf, muss im angebundenen System technisch durchgesetzt werden und darf nicht vom Urteil des Modells abhängen. Ein Agent, der Angebote vorbereitet, braucht Lesezugriff auf Konditionen, aber keinen Zugriff auf die Buchhaltung. OpenAI empfiehlt, jedes Werkzeug eines Agenten nach Risiko einzustufen, danach, ob es nur liest oder auch schreibt, ob die Aktion rückgängig zu machen ist, welche Berechtigungen dahinterstehen und welche finanziellen Folgen sie hat.

Übergaben

Ein Agent braucht klare Punkte, an denen er die Arbeit an einen Menschen zurückgibt. OpenAI nennt zwei typische Auslöser: wenn der Agent nach mehreren Versuchen nicht weiterkommt, und wenn eine Aktion heikel, unumkehrbar oder folgenreich ist, etwa das Stornieren von Bestellungen, größere Erstattungen oder Zahlungen.

Alles andere erledigt der Agent selbst, und daran entscheidet sich, ob er überhaupt Arbeit abnimmt. Wer jede Rückfrage, jeden CRM-Eintrag und jede Wiedervorlage freigeben lässt, hat einen Assistenten mit zusätzlichen Klicks gebaut, weil der Mensch wieder jeden Schritt prüfen muss, statt nur die wenigen Entscheidungen zu treffen, die wirklich bei ihm liegen. Die sinnvolle Grenze ist eng gezogen. Freigaben gehören an Zahlungen, verbindliche Zusagen und Aktionen, die sich nicht zurückholen lassen.

Wann ein Agent die falsche Wahl ist

Gartner schätzt, dass bis Ende 2027 mehr als 40 Prozent der Agentenprojekte wieder eingestellt werden, wegen steigender Kosten, unklarem Nutzen oder unzureichender Risikokontrollen (Gartner-Pressemitteilung vom Juni 2025). Die zuständige Analystin sagt dort auch, dass viele Anwendungsfälle, die heute als Agenten verkauft werden, gar keinen Agenten brauchen. Gartner empfiehlt als Faustregel Agenten für Aufgaben mit Entscheidungen, klassische Automatisierung für gleichbleibende Routineabläufe und Assistenten für das einfache Nachschlagen.

Anthropic kommt aus der technischen Richtung zum selben Ergebnis und rät, immer mit der einfachsten Lösung zu beginnen. Ein Agent ist langsamer und teurer als ein einzelner Modellaufruf, weil er viele Schritte hintereinander ausführt. Und ein Fehler in einem frühen Schritt setzt sich in allen folgenden fort, da jeder Schritt auf dem Ergebnis des vorherigen aufbaut.

Für die Praxis heißt das: Kommen Rechnungen immer im selben Format vom selben Lieferanten, ist eine feste Automatisierung billiger und berechenbarer als ein Agent. Brauchst du schnell einen Text, reicht ein Assistent. Ein Agent lohnt sich, wenn eine Aufgabe mehrere Systeme berührt, von Fall zu Fall anders aussieht und trotzdem ein klares Ende hat. Die Angebotsanfrage oben ist so ein Fall, weil jede Anfrage etwas anderes offen lässt, die Schritte aber immer auf ein verschicktes Angebot hinauslaufen.

Woran du erkennst, ob ein Produkt wirklich ein Agent ist

Weil „Agent“ gerade das Wort ist, mit dem sich KI-Produkte verkaufen, benennen viele Anbieter ihre bisherigen Chatbots und Assistenten einfach um. Gartner nennt das „Agent Washing“ und schätzt, dass von mehreren tausend Anbietern, die sich mit Agenten schmücken, nur etwa 130 echte Agentenfähigkeiten liefern. Ein paar Fragen trennen das schnell.

• Kann das Produkt in deinen Systemen etwas anlegen oder ändern, oder erzeugt es nur Text, den jemand weitertragen muss?
• Arbeitet es auch, wenn niemand chattet, etwa zu festen Zeiten oder wenn eine neue Nachricht eingeht?
• Woran erkennt es, dass eine Aufgabe erledigt ist, und was passiert, wenn es nicht weiterkommt?
• Kannst du einzelne Aktionen erlauben, sperren oder an eine Freigabe binden, und wird diese Regel im angebundenen System durchgesetzt?
• Kannst du hinterher nachlesen, welche Aktion der Agent wann ausgeführt hat und mit welchem Ergebnis?

Wenn die Antwort auf die erste Frage nein lautet, ist der Rest egal, weil dann jemand aus deinem Team den Rest der Arbeit erledigt.

Die wichtigere Frage stellst du dir allerdings selbst, bevor du Produkte vergleichst. Welche Aufgabe würdest du einem neuen, gut eingearbeiteten Kollegen vollständig übergeben, und was dürfte er dabei tun, ohne dich zu fragen? Wer das für zwei oder drei Abläufe aufschreiben kann, hat die Rechte, die Übergabepunkte und das Abbruchkriterium für seinen ersten Agenten schon festgelegt und merkt beim Anbietervergleich sofort, welches Produkt dazu passt.

Häufige Fragen

Ist ChatGPT ein KI-Agent?

Im normalen Chat arbeitet ChatGPT als Assistent. Du fragst, es antwortet, und die weitere Arbeit bleibt bei dir. OpenAI hat zusätzlich einen Agentenmodus eingebaut, in dem ChatGPT Websites bedient, Code ausführt und Aufgaben über mehrere Schritte erledigt. Vor folgenreichen Aktionen wie einem Kauf fragt es dort nach, und Banküberweisungen lehnt es ab.

Dieser Agent arbeitet für eine einzelne Person in ihrer eigenen Sitzung. Für Aufgaben, die zwischen mehreren Menschen im Team wandern, braucht es gemeinsamen Kontext und gemeinsam festgelegte Regeln.

Braucht ein KI-Agent ein eigenes Sprachmodell?

Nein. Agenten nutzen dieselben Sprachmodelle wie Chatbots und Assistenten. Was einen Agenten ausmacht, liegt in der Software um das Modell herum, also in den angebundenen Werkzeugen, den Rechten und der Schleife, in der er Schritte plant, ausführt und prüft. Für einfache Teilaufgaben reicht oft ein kleineres, günstigeres Modell.

Darf ein KI-Agent ohne Freigabe E-Mails verschicken?

Das legst du fest. Eine Rückfrage an einen Kunden oder eine Terminbestätigung sind Routineaktionen, die ein Agent gut selbst erledigen kann, wenn du ihm das erlaubst. Eine Freigabe lohnt sich bei Nachrichten, die etwas Verbindliches zusagen, etwa ein Angebot, einen Preisnachlass oder eine Kündigung. Wichtig ist, dass die Regel technisch durchgesetzt wird und der Agent sie nicht selbst auslegt.

Was unterscheidet einen KI-Agenten von klassischer Automatisierung?

Eine klassische Automatisierung folgt festen Regeln und bricht ab oder macht Fehler, sobald ein Fall von der Vorlage abweicht. Ein Agent entscheidet in jedem Schritt neu, was zu tun ist, und kommt deshalb mit unvollständigen Anfragen, wechselnden Formaten und Ausnahmen zurecht. Dafür ist er teurer und weniger vorhersehbar. Für Abläufe, die immer gleich aussehen, bleibt die feste Automatisierung die bessere Wahl.