KI-Agent Anforderungen: Von der Idee zur prüfbaren Aufgabe

Montagmorgen liegen im Kundenservice zwanzig neue Nachrichten. Einige sind dringend, andere unvollständig, manche gehören in einen anderen Bereich. Die Idee ist schnell ausgesprochen: „Ein KI-Agent soll das vorsortieren.“

Eine belastbare Anforderung macht daraus eine prüfbare Aufgabe. Sie beschreibt Ziel, Eingaben, erlaubte Werkzeuge, Ergebnis und Grenzen. Ergänzt werden diese Punkte durch Erfolgskriterien und Regeln für unsichere oder riskante Fälle.

1. Das Ziel beobachtbar formulieren

„Den Kundenservice verbessern“ lässt sich kaum testen. Besser ist eine Anforderung, die ein sichtbares Ergebnis beschreibt:

Der KI-Agent ordnet eingehende Serviceanfragen nach einem festgelegten Katalog ein und erstellt einen strukturierten Bearbeitungsvorschlag.

Damit lässt sich prüfen, ob der Agent die richtige Kategorie wählt, fehlende Angaben erkennt und ein brauchbares Ergebnis liefert. Legt außerdem fest, wann die Aufgabe als erfolgreich gilt.

2. Eingaben und Datenquellen festlegen

Beschreibt genau, welche Informationen der Agent erhält:

• neue E-Mails oder Formulare
• ein freigegebener Katalog von Anfragearten
• vorhandene Kundendaten
• interne Bearbeitungshinweise

Zur Anforderung gehören auch Dateiformate, Aktualität und Zugriffsrechte. Klärt, was bei fehlenden oder widersprüchlichen Angaben passiert. Der Agent sollte solche Fälle kenntlich machen, statt eine scheinbar sichere Antwort zu erfinden.

Dokumente, Webseiten und Werkzeugausgaben sind zudem als nicht vertrauenswürdige Eingaben zu behandeln. Der Agent muss zwischen Arbeitsdaten und tatsächlichen Vorgaben unterscheiden. Darauf weist auch Microsoft in seinen Empfehlungen zu KI-Agenten hin.

3. Werkzeuge und Rechte begrenzen

Ein Agent kann technisch auf ein Werkzeug zugreifen, darf es aber nicht automatisch für jede Aktion verwenden. Definiert für jedes Werkzeug:

• Darf der Agent nur lesen oder auch schreiben?
• Welche Datensätze darf er sehen?
• Welche Aktionen sind erlaubt?
• Welche Folgen haben Fehler?

Im Servicefall könnte der Agent Nachrichten lesen, klassifizieren und einen internen Vorgang anlegen. Kundendaten löschen oder eine verbindliche externe Antwort versenden darf er nicht. Für sensible Aktionen kann das Unternehmen eine ausdrückliche Prüfung oder Freigabe verlangen.

4. Ergebnis und Abbruchregeln definieren

Legt das Ausgabeformat fest: etwa Kategorie, Begründung, fehlende Angaben und Bearbeitungsvorschlag. Je nach Aufgabe gehören auch Quellen oder eine Kennzeichnung von Unsicherheit dazu.

Zusätzlich braucht der Agent Grenzen für Bearbeitungszeit, Kosten, Schritte und Wiederholungen. Anthropic und Microsoft nennen solche Limits als wichtige Kontrollmöglichkeiten für Agenten. Der NIST AI Risk Management Framework bietet darüber hinaus eine allgemeine Orientierung für das Risikomanagement von KI.

Allgemeine Anforderungen und Needs

Diese Grundsätze gelten unabhängig vom Anbieter. Needs beschreibt ein Agent OS, in dem KI-Agenten zusammenarbeiten und Wissen als gemeinsames Firmenwissen nutzen. Menschen behalten dabei die Kontrolle über die Aktionen der Agenten.

Für eine konkrete Anforderung reicht deshalb ein Satz wie „Der Agent bearbeitet Kundenanfragen“ nicht aus. Beschreibt stattdessen, welche Anfrage er verarbeitet, welche Daten er verwenden darf, welches Ergebnis er liefern muss und wann er innehält.

Mehr über Needs erfahren.