Was tun KI-Agenten bei widersprüchlichen Informationen?

Im Einkauf liegen zwei Preislisten für dasselbe Ersatzteil. In der einen stehen 118 Euro, in der anderen 109 Euro. Der KI-Agent soll schnell den passenden Preis nennen. Doch welche Angabe gilt?

Bei widersprüchlichen Informationen sollte ein KI-Agent die Abweichung sichtbar machen. Er nennt die betroffenen Quellen, prüft Gültigkeitszeitraum und Anwendungsbereich und erklärt, warum er keine eindeutige Antwort geben kann. Fehlt eine verbindliche Regel, fragt er nach oder hält den Vorgang an, bevor daraus eine folgenreiche Entscheidung entsteht.

Zwei Preislisten sind nicht automatisch ein Fehler

Angaben können sich durch Zeitraum, Region, Kundengruppe, Mengenstaffel oder Lieferbedingungen unterscheiden. Im Beispiel gilt:

• Preisliste von Lieferant A: 118 Euro, gültig ab 1. Mai
• Preisliste von Lieferant B: 109 Euro, gültig bis 30. April

Für einen Zeitraum ab 1. Mai sollte der Agent nicht einfach 109 Euro als gültigen Preis ausgeben. Eine belastbare Antwort wäre:

„Für den Zeitraum ab 1. Mai kann ich den Preis nicht eindeutig bestimmen. Lieferant A nennt 118 Euro ab 1. Mai. Die Angabe von Lieferant B über 109 Euro gilt nur bis 30. April.“

Ein Mittelwert oder eine frei erfundene Preisspanne löst den Widerspruch nicht. Dafür gibt es keine Quelle.

Welche Regeln braucht ein KI-Agent?

Damit ein KI-Agent widersprüchliche Informationen sinnvoll behandelt, braucht er:

1. Die relevanten Quellen: Der Agent muss wissen, welche Dokumente und Systeme für die Aufgabe maßgeblich sind.
2. Eine Prüfung des Zusammenhangs: Gültigkeit, Region, Kundengruppe und weitere Bedingungen können eine Abweichung erklären.
3. Eine Quellenpriorität: Eine bestätigte und zuständige Quelle kann Vorrang vor einer älteren oder allgemeinen Angabe haben.
4. Eine klare Antwort bei Unsicherheit: Der Agent sollte offene Widersprüche benennen, statt sie stillschweigend zusammenzuführen.

Microsoft beschreibt für wissensbasierte Agenten ebenfalls die Prüfung korrekter Quellen und ihrer Priorität sowie den Umgang mit widersprüchlichen Werten. Mehr zu Knowledge Grounding und Genauigkeit bei Microsoft.

Die Reaktion hängt vom Risiko ab. Bei einer unverbindlichen Recherche genügt oft ein Hinweis. Bei einer Bestellung oder einer anderen folgenreichen Aktion kann der Vorgang pausieren, bis jemand die offene Frage geklärt hat. Prüfungen und optionale menschliche Freigaben für solche Werkzeugaufrufe beschreibt OpenAI in den Hinweisen zu Guardrails und Freigaben. Eine Freigabe ist dabei nicht für jede Agentenaktion erforderlich.

Was bedeutet das für Needs?

Needs beschreibt sich als Agent OS für Unternehmen, in dem KI-Agenten zusammenarbeiten und Wissen gemeinsam nutzbar wird. Unternehmen können im jeweiligen Prozess festlegen, wie Quellen, Zugriffsbereiche und offene Entscheidungen behandelt werden.

So entsteht keine scheinbare Sicherheit aus einer einzelnen Zahl. Der Agent macht sichtbar, was bekannt ist, wo Quellen voneinander abweichen und welche Entscheidung noch fehlt. Mehr über Needs.