KI-Agenten skalieren: Wie aus dem ersten Agenten ein Team wird

An der Technik scheitert der erste KI-Agent selten. Er hat eine klar umrissene Aufgabe und einen Menschen, der sich um ihn kümmert. Das Wissen, das er braucht, steckt in seinen Anweisungen und in den paar Dokumenten, die ihm jemand mitgegeben hat. Beim fünften Agenten sieht das anders aus. Jetzt muss geklärt sein, welcher Agent weiß, dass ein Kunde seit letzter Woche einen neuen Ansprechpartner hat, wer eine Anfrage übernimmt, die zwischen Vertrieb und Kundenservice liegt, und ob der Agent, der Rechnungen vorbereitet, auch ins CRM schreiben darf.

Das sind Fragen der Organisation. Wenn du sie beantwortest, bevor der dritte Agent dazukommt, musst du später nicht umbauen. Skalieren gelingt, wenn vier Dinge stimmen. Die Agenten lesen aus gemeinsamem Firmenwissen statt aus eigenen Kopien. Jeder hat eine klar abgegrenzte Zuständigkeit. Übergaben zwischen ihnen lassen sich nachlesen. Und die Rechte vergibt eine zentrale Stelle. Dazu kommen Kosten und Messung, die viele erst dann ansehen, wenn die Rechnung schon überrascht hat.

Warum Agententeams an den Schnittstellen scheitern

Forscher der UC Berkeley haben für die Studie „Why Do Multi-Agent LLM Systems Fail?“ mehr als 1.600 Protokolle aus sieben verbreiteten Multi-Agenten-Frameworks ausgewertet. Sie fanden 14 Fehlerarten und ordneten sie drei Gruppen zu. Die erste Gruppe sind Fehler im Aufbau des Systems, die zweite sind Agenten, die aneinander vorbei arbeiten, und die dritte ist fehlende Prüfung, ob die Aufgabe am Ende wirklich erledigt ist. Wer schon einmal eine Abteilung mit unklaren Rollen erlebt hat, kennt alle drei.

Dahinter steckt eine einfache Rechnung. Mit jedem neuen Agenten kommt nicht nur eine Aufgabe dazu, sondern auch eine mögliche Schnittstelle zu jedem Agenten, der schon da ist. Zwei Agenten haben eine Verbindung, fünf Agenten haben bis zu zehn. An jeder dieser Verbindungen kann Wissen verloren gehen, Arbeit doppelt passieren oder eine Zuständigkeit offen bleiben.

Gartner erwartet, dass bis Ende 2027 über 40 Prozent der Projekte mit KI-Agenten eingestellt werden. Als Gründe nennt Gartner steigende Kosten, unklaren Geschäftswert und unzureichende Risikokontrollen. Keiner davon hat mit der Qualität der Modelle zu tun. Alle drei entstehen beim Übergang vom einzelnen Agenten zu vielen, wenn niemand den Überblick über Rechte, Verbrauch und Nutzen behält.

Wann ein zweiter Agent wirklich sinnvoll ist

Anthropic schreibt in seinem viel zitierten Leitfaden „Building Effective Agents“, man solle immer die einfachste Lösung wählen und Komplexität nur dann hinzufügen, wenn sie das Ergebnis nachweisbar verbessert. Für dich heißt das, dass der erste Agent so lange allein bleiben darf, wie er seine Arbeit gut macht. Ein zweiter Agent lohnt sich in drei Fällen.

Der erste Fall ist, dass die Anweisungen und das Wissen des ersten Agenten so weit wachsen, dass er Themen durcheinanderbringt. Ein Agent, der Kundenanfragen beantwortet und nebenbei Angebote kalkuliert, braucht für beides unterschiedliche Unterlagen. Je mehr davon gleichzeitig in seinem Kontext liegt, desto öfter greift er zur falschen Quelle. Im zweiten Fall braucht eine neue Aufgabe Rechte, die du dem bestehenden Agenten nicht geben willst, etwa Lesezugriff auf die Buchhaltung. Im dritten Fall ist im Unternehmen ein anderer Mensch für die Ergebnisse verantwortlich.

Der dritte Fall ist der wichtigste, weil er dir sagt, wo du schneiden sollst. Teile deine Agenten entlang der Bereiche auf, die in deiner Firma ohnehin getrennt geführt werden, also Vertrieb, Kundenservice, Einkauf oder Buchhaltung. Teile eine einzelne Arbeit dagegen nicht in Schritte, die verschiedene Agenten erledigen. Wenn ein Agent für ein Angebot recherchiert, ein zweiter es schreibt und ein dritter es prüft, trifft jeder von ihnen kleine Entscheidungen, die die anderen nicht sehen. Cognition, ein Unternehmen, das Software-Agenten baut, beschreibt dieses Problem mit dem Grundsatz, dass Handlungen immer stillschweigende Entscheidungen enthalten und widersprüchliche Entscheidungen zu schlechten Ergebnissen führen. Ein Angebot sollte deshalb bei einem Agenten bleiben, der den ganzen Zusammenhang kennt.

Ein Firmenwissen, aus dem alle lesen

Fast jeder erste Agent bekommt sein Wissen als Kopie. Jemand lädt die Preisliste, die Produktbeschreibungen und ein paar Musterantworten hoch, und der Agent arbeitet damit. Beim zweiten Agenten macht man es genauso und lädt dieselbe Preisliste noch einmal hoch. Dann ändern sich die Preise, jemand aktualisiert eine der beiden Kopien, und von nun an nennen zwei Agenten unterschiedliche Preise. Eine Fehlermeldung gibt es dabei nicht, und beide formulieren ihre Antwort gleich überzeugt. Bemerkt wird der Fehler erst, wenn ein Kunde nachfragt, warum er zwei verschiedene Zahlen bekommen hat.

Deshalb ist der erste Schritt nach dem ersten Agenten fast immer eine Aufräumarbeit. Für jede Tatsache, die mehr als ein Agent braucht, gibt es genau eine Quelle, aus der alle Agenten lesen. Änderungen an dieser Quelle prüft ein Mensch, bevor sie gelten. Das gilt für Preise, Lieferbedingungen, Ansprechpartner und Firmenangaben. In Needs zum Beispiel liegen die wichtigsten Firmenfakten in einem versionierten Firmenprofil. Agenten schlagen dort Änderungen vor, ein Mensch bestätigt oder lehnt sie ab, und nur bestätigte Fakten landen im Kontext der Agenten.

Gemeinsam heißt dabei nicht, dass jeder Agent alles sieht. Der Agent im Vertrieb braucht die allgemeinen Firmenangaben und das Vertriebswissen, aber keine Gehaltsdaten aus der Personalabteilung. Trenne das Wissen also nach Bereichen und lege allgemeine Firmeninformationen in einen Teil, den alle lesen dürfen.

Ein zweiter, oft übersehener Teil des Firmenwissens sind die Korrekturen. Wenn dein Kundenservice-Agent gelernt hat, dass ein Großkunde Rechnungen nur als PDF an eine bestimmte Adresse haben will, dann muss der Agent in der Buchhaltung das ebenfalls wissen. Solche Erfahrungen gehören deshalb an den gemeinsamen Ort und nicht in die privaten Notizen eines einzelnen Agenten.

Jeder Agent braucht einen Auftrag und einen Menschen

Anthropic hat beim Bau seines eigenen Recherchesystems mit mehreren Agenten festgestellt, dass Agenten ohne genaue Aufgabenbeschreibung doppelte Arbeit machen, Lücken lassen oder Informationen nicht finden. Kurze Aufträge wie „recherchiere den Halbleitermangel“ führten dazu, dass mehrere Agenten genau dieselben Suchen durchführten. Seitdem bekommt dort jeder Teilagent ein Ziel, ein Ausgabeformat, Hinweise zu Werkzeugen und Quellen und klare Grenzen seiner Aufgabe.

Das lässt sich direkt auf dein Unternehmen übertragen. Schreib für jeden Agenten eine kurze Zuständigkeit auf, die ein neuer Mitarbeiter in zwei Minuten versteht. Darin steht, wofür der Agent da ist, was er selbst erledigt, was er an wen abgibt und welcher Mensch für seine Ergebnisse verantwortlich ist. Überschneidungen fallen dabei sofort auf. Wenn sowohl der Vertriebs- als auch der Kundenservice-Agent auf Nachbestellungen von Bestandskunden reagieren, legst du fest, wer sie übernimmt. Andernfalls bekommt der Kunde zwei Antworten oder keine, weil jeder Agent den anderen für zuständig hält.

Der verantwortliche Mensch sollte derjenige sein, der auch verantwortlich wäre, wenn ein Mitarbeiter diese Arbeit machte. Für den Kundenservice-Agenten ist das die Leitung des Kundenservice und nicht ein zentraler KI-Beauftragter, der fachlich gar nicht beurteilen kann, ob eine Antwort gut war. Dieser Mensch legt Ziele, Rechte und Grenzen fest und schaut sich regelmäßig an, was der Agent getan hat. In den Routinefällen arbeitet der Agent selbstständig. Er beantwortet Fragen zum Lieferstatus, schlägt Termine vor und trägt Gesprächsnotizen ins CRM ein, ohne dass jemand jeden Vorgang einzeln abnickt.

Übergaben, die man nachlesen kann

Sobald Agenten einander Arbeit geben, wird die Übergabe zur häufigsten Fehlerquelle. Cognition empfiehlt in seinem Beitrag, zwischen Agenten den vollständigen Arbeitsverlauf weiterzugeben und nicht nur eine einzelne Nachricht, weil der empfangende Agent sonst die Entscheidungen nicht kennt, die vorher getroffen wurden. Für ein Unternehmen ist das eine gute Faustregel. Eine Übergabe enthält das Ziel, die bisher getroffenen Entscheidungen samt Begründung, das erwartete Ergebnis und die Angabe, an wen das Ergebnis zurückgeht.

Ein Beispiel zeigt, warum die Begründung dazugehört. Der Vertriebsagent gibt dem Angebotsagenten den Auftrag, für einen Bestandskunden 500 Stück mit Lieferung in Kalenderwoche 46 zu kalkulieren. Er schreibt dazu, dass der Rabatt nicht über dem Standard liegen soll, weil der Kunde zuletzt verspätet gezahlt hat. Ohne diesen Satz kalkuliert der Angebotsagent womöglich mit dem Mengenrabatt, den er aus früheren Angeboten kennt, und niemand versteht später, warum. Mit dem Satz erstellt er das Angebot selbstständig und legt es ab. Erst bevor das Angebot als verbindliche Zusage an den Kunden geht, gibt ein Mensch es frei, weil hier ein echtes Risiko besteht.

Anthropic beschreibt außerdem, dass Ergebnisse besser in einem gemeinsamen Ablageort landen und Agenten einander nur den Verweis darauf geben. Wenn jeder Agent den Inhalt in eigenen Worten weiterreicht, geht wie bei der Stillen Post bei jedem Schritt etwas verloren. Eine Ablage hat noch einen zweiten Vorteil. Wenn sich ein Kunde beschwert, kannst du nachlesen, welcher Agent wann was auf welcher Grundlage entschieden hat. Ohne dieses Protokoll bleibt nur die Vermutung, und mit Vermutungen lässt sich kein Ablauf verbessern.

Rechte gehören an eine Stelle

Das OWASP-Projekt, das Sicherheitsrisiken von KI-Anwendungen sammelt, führt übermäßige Handlungsmacht als eigenes Risiko. Es nennt drei Ursachen. Ein Agent hat Funktionen, die er gar nicht braucht, oder Berechtigungen, die über seine Aufgabe hinausgehen, oder er führt folgenreiche Aktionen ohne Prüfung aus. Für Teams aus mehreren Agenten nennt OWASP ausdrücklich einen weiteren Auslöser, nämlich einen manipulierten oder kompromittierten anderen Agenten. Ein Agent, der eingehende E-Mails liest, kann über eine präparierte Nachricht Anweisungen erhalten und sie als Auftrag an einen Kollegen weitergeben, der mehr darf als er selbst.

In vielen Firmen entsteht der Wildwuchs genau hier. Den ersten Agenten hat ein Mitarbeiter mit seinem eigenen Zugang zum CRM verbunden, den zweiten eine Kollegin mit ihrem Postfach-Zugang. Beide Agenten arbeiten dann mit den vollen Rechten ihrer Erbauer. Niemand weiß, welche Agenten welche Verbindungen haben, und wenn einer der beiden das Unternehmen verlässt, laufen seine Agenten mit seinen Zugängen weiter. OWASP beschreibt dieses Muster als Agenten, die mit einer allgemeinen, hoch berechtigten Identität auf Systeme zugreifen, obwohl sie nur einen kleinen Teil brauchen.

Zentrale Rechtevergabe heißt deshalb dreierlei. Es gibt eine Liste aller Agenten mit ihren Verbindungen und Rechten, und eine Stelle pflegt sie. Jeder Agent bekommt die Rechte seiner Rolle und nicht die der Person, die ihn eingerichtet hat. Und die Prüfung, ob eine Aktion erlaubt ist, findet im Zielsystem oder in einer vermittelnden Schicht statt. OWASP nennt das vollständige Vermittlung (complete mediation) und meint damit, dass sich das System nicht darauf verlässt, dass das Sprachmodell selbst entscheidet, was es darf.

Innerhalb dieser Rechte arbeiten die Agenten selbstständig. Eine Freigabe brauchst du nur für die wenigen Aktionen mit echtem Risiko, etwa eine Zahlung, eine Gutschrift über einem festgelegten Betrag oder eine verbindliche Zusage an einen Kunden. Wer jede Aktion freigeben lässt, hat am Ende ein Team, das auf Menschen wartet, und Menschen, die aus Gewohnheit alles abnicken.

Was ein Agententeam kostet

Agenten verbrauchen deutlich mehr Rechenleistung als ein einfacher Chat, und Agententeams noch einmal mehr. Anthropic nennt aus eigenen Daten etwa den vierfachen Tokenverbrauch für einen Agenten im Vergleich zu einem Chat und etwa den fünfzehnfachen für ein System aus mehreren Agenten. Tokens sind die Texteinheiten, nach denen KI-Modelle abgerechnet werden. Der Mehrverbrauch entsteht, weil jeder Agent seinen eigenen Kontext aufbaut, Werkzeuge aufruft und bei jeder Übergabe einen Teil des Wissens erneut lesen muss.

Eine Beispielrechnung, deren Werte angenommen sind, zeigt die Größenordnung. Eine Kundenanfrage im einfachen Chat kostet 2 Cent an Modellkosten, und dein Team bearbeitet 3.000 solcher Anfragen im Monat. Im Chat wären das 60 Euro. Erledigt sie ein einzelner Agent mit dem vierfachen Verbrauch, sind es 240 Euro. Laufen sie durch mehrere Agenten mit Übergaben, landest du beim Fünfzehnfachen und damit bei 900 Euro. Die 900 Euro können gut angelegt sein, wenn das Team dafür Anfragen vollständig erledigt, die vorher ein Mitarbeiter zwei Stunden gekostet haben. Für eine Standardauskunft zum Lieferstatus sind sie zu viel.

Daraus folgen zwei Regeln. Setze ein Team aus mehreren Agenten dort ein, wo die Aufgabe den Mehrverbrauch wert ist, und lass einfache Fälle bei einem Agenten. Und mach die Kosten pro Bereich und pro Ergebnis sichtbar, mit einem Budget, das der verantwortliche Mensch kennt. Ein gemeinsames Monatsbudget, auf das alle Agenten unbemerkt zugreifen, ist genau die Art steigender Kosten, die Gartner als Grund für eingestellte Projekte nennt.

Woran du merkst, ob das Team besser arbeitet

Ein einzelner Agent lässt sich noch nach Gefühl beurteilen. Bei fünf Agenten reicht das nicht mehr, weil Fehler an den Übergaben entstehen und bei keinem einzelnen Agenten sichtbar werden. Miss deshalb das Ergebnis des ganzen Teams.

Brauchbare Kennzahlen sind der Anteil der Aufträge, die ohne Nacharbeit durch einen Menschen erledigt sind, die Zahl der Übergaben, die zurückkommen oder eine Rückfrage auslösen, die Fälle, in denen zwei Agenten an derselben Sache gearbeitet haben, und die Kosten pro erledigtem Ergebnis. Die Rückläufer bei Übergaben sind dabei die aufschlussreichste Zahl, weil sie direkt zeigen, wo Zuständigkeit oder Übergabeinhalt unklar sind.

Für den Anfang brauchst du keine aufwendige Testumgebung. Anthropic hat seine Agenten anfangs mit etwa 20 Anfragen aus echter Nutzung getestet. Dort, wo Änderungen große Wirkung haben, sieht man den Unterschied schon an so wenigen Fällen. Sammle also 20 abgeschlossene, typische Vorgänge aus deinem Betrieb, bei denen du weißt, wie das richtige Ergebnis aussah. Bevor du einen neuen Agenten dazunimmst oder einem bestehenden neue Rechte gibst, lass diese Fälle noch einmal durchlaufen. Prüf dabei vor allem den Endzustand, also ob das Angebot stimmt und der CRM-Eintrag richtig ist. Welchen Weg die Agenten dahin genommen haben, ist zweitrangig, denn Anthropic beschreibt, dass Agenten auf verschiedenen, gleichermaßen richtigen Wegen zum Ziel kommen.

Die Reihenfolge nach dem ersten Agenten

Wenn der erste Agent gut läuft, ist der nächste Schritt eine Bestandsaufnahme und noch kein zweiter Agent. Schreib auf, welche Agenten es im Unternehmen schon gibt, auch die, die einzelne Mitarbeiter auf eigene Faust gebaut haben. Halte fest, wer sie eingerichtet hat, mit welchen Zugängen sie arbeiten und welche Dokumente in ihnen stecken.

Danach ziehst du das Wissen zusammen. Jede Tatsache, die mehrfach vorkommt, bekommt eine Quelle, und die Kopien verschwinden. Dann folgen die Zuständigkeiten. Jeder Agent bekommt seine kurze Beschreibung und einen verantwortlichen Menschen. Im selben Zug stellst du die Rechte auf Rollen um und führst sie an einer Stelle zusammen. Erst wenn diese Grundlage steht, sammelst du die 20 Testfälle und baust den zweiten Agenten. Am besten tust du das in einem Bereich, in dem ein anderer Mensch verantwortlich ist und in dem die Übergabe zum ersten Agenten klar beschrieben werden kann.

Diese Reihenfolge wirkt langsamer als der direkte Weg zu fünf Agenten in fünf Wochen, aber sie hat einen Vorteil, der mit jedem Agenten größer wird. Der sechste und der zehnte Agent kommen dann in eine Ordnung, die schon trägt. Sie lesen aus derselben Wissensquelle, bekommen ihre Rechte über dieselbe Stelle und werden an denselben Testfällen gemessen, sodass sich deine Arbeit pro neuem Agenten auf die Frage beschränkt, wofür er da ist und wem er zuarbeitet.