KI-Agenten schrittweise einführen: Was kommt zuerst?

Im gemeinsamen Rechnungspostfach gehen täglich Nachrichten ein: Rechnungen, Rückfragen und Hinweise auf Fristen. Ein KI-Agent kann solche Inhalte erkennen und sortieren. Die entscheidende Frage lautet: Darf er schon antworten oder sogar eine Bestellung auslösen?

Als pragmatische Einführungsfolge bietet sich an: Beobachten, Vorbereiten, interne Ausführung und schließlich externes Handeln. Diese Reihenfolge ist kein allgemeingültiger Standard. Welche Stufe passt, hängt von Risiko, Werkzeugen, Datenzugriffen, Berechtigungen und technischer Konfiguration ab.

1. Beobachten

Zunächst liest der Agent nur ausdrücklich zugelassene Informationen. Er fasst Nachrichten zusammen, erkennt mögliche Rechnungen und weist auf offene Fristen hin.

Daten verändern oder Aktionen auslösen darf er in dieser Stufe noch nicht. So lässt sich prüfen, ob er die richtigen Informationen erkennt und seine Hinweise verständlich formuliert. Fehler bleiben zunächst ohne direkte Folgen für laufende Abläufe.

2. Vorbereiten

Im nächsten Schritt erstellt der Agent Entwürfe und Entscheidungsgrundlagen. Im Rechnungspostfach kann er wichtige Angaben strukturiert zusammenfassen, eine Aufgabenliste anlegen oder einen Antwortentwurf formulieren.

Ein Mitarbeiter entscheidet, was davon weiterverwendet wird. Der Agent liefert also bereits verwertbare Ergebnisse, greift aber noch nicht selbst in den Prozess ein. Diese Stufe eignet sich besonders, wenn der Nutzen sichtbar werden soll, ohne Rechte für Änderungen zu vergeben.

3. Intern ausführen

Danach kann der Agent klar abgegrenzte interne Routinen übernehmen. Dazu gehört etwa, einen Vorgang anzulegen, einen Bearbeitungsstatus zu aktualisieren oder Informationen in einem festgelegten Arbeitsbereich zu verarbeiten.

Für ausdrücklich erlaubte, risikoarme Routineaktionen kann auf eine Einzelfreigabe verzichtet werden, sofern Berechtigungen, Grenzen und Protokollierung festgelegt sind. Der Umfang der Aktionen muss technisch begrenzt und ihre Ausführung nachvollziehbar protokolliert werden.

4. Extern handeln

Nach außen sichtbare Handlungen brauchen eine eigene Risikoprüfung. Dazu zählen Antworten an Lieferanten, Bestellungen oder Aktionen mit finanziellen oder rechtlichen Folgen.

Für sensible oder irreversible Schritte kann das Unternehmen eine ausdrückliche menschliche Freigabe verlangen. Sie ist ein risikobasierter Sicherheitsmechanismus und kein definierendes Merkmal jedes KI-Agenten. Die konkrete Ausgestaltung richtet sich nach Risiko, Werkzeugen, Datenzugriffen, Berechtigungen und technischer Konfiguration.

Die Hinweise von Microsoft zu sicheren Agentensystemen und das OWASP AI Agent Security Cheat Sheet nennen dafür unter anderem geringstmögliche Rechte, Protokollierung, Abbruchmöglichkeiten und klare Obergrenzen. Der AI Risk Management Framework von NIST unterstützt bei der systematischen Bewertung von KI-Risiken.

Was Needs dabei einordnet

Needs ist ein Agent OS mit einem gemeinsamen KI-Agenten-Team, das Unternehmenswissen nutzt, Analysen und Maßnahmen erstellt und freigegebene Aufgaben ausführt. Welche Autonomiestufe sinnvoll ist, hängt auch hier vom jeweiligen Prozess und seinem Risikoprofil ab.

Startet deshalb mit einem begrenzten Prozess, klaren Daten und wenigen Werkzeugen. Prüft, wie ihr KI-Agenten schrittweise einführen könnt.