Welche Kosten verursachen KI-Agenten?

Montagmorgen gehen im Kundenservice 30 Anfragen ein. Ein KI-Agent liest die Nachrichten, sucht passende Informationen und erstellt Antwortentwürfe. Dabei entstehen nicht nur Kosten für das verwendete KI-Modell.

Die KI-Agent Kosten setzen sich aus Modellnutzung, Werkzeugen, Integrationen, Betrieb, Prüfung, Pflege und möglichen Fehlerfolgen zusammen. Bei einfachen Routineaufgaben können die Modellkosten niedrig bleiben. Technische Anbindungen und laufende Betreuung fallen häufig stärker ins Gewicht.

Diese Kosten gehören ins Budget

Modelle und verarbeitete Textmenge

Viele Anbieter rechnen Eingaben und Ausgaben nach Tokens ab. Tokens sind kleine Texteinheiten, in die das Modell Inhalte zerlegt.

Je nach technischer Umsetzung können mehrstufige Aufgaben deutlich mehr Kontext und Modellaufrufe erfordern als eine einfache Chatfrage. Der KI-Agent verarbeitet beispielsweise Anweisungen, Nachrichten, Dokumentauszüge und Ergebnisse aus anderen Systemen.

Die Preise der OpenAI API unterscheiden sich unter anderem nach Modell und Verarbeitungsart. Für eure Kalkulation braucht ihr daher drei Werte: die Zahl der Vorgänge, die durchschnittliche Textmenge und die Modellaufrufe pro Vorgang.

Werkzeuge und Integrationen

Einige Dienste wie Websuche, Dateisuche oder Wissensdatenbanken können eigene Gebühren verursachen. Amazon Bedrock weist bestimmte Modell-, Abruf-, Schutz- und Bewertungsfunktionen getrennt aus.

Hinzu kommt die Anbindung an CRM, ERP, E-Mail oder interne Datenquellen. Einrichtung, Rechteverwaltung und Anpassungen nach Änderungen am verbundenen System können einmalige und laufende Kosten verursachen.

Betrieb, Prüfung und Fehler

Je nach Architektur können Kosten für Hosting, Überwachung, Backups und Sicherheitsmaßnahmen entstehen. Außerdem braucht der KI-Agent realistische Testfälle und regelmäßige Prüfungen seiner Ergebnisse. Der NIST-Leitfaden zum KI-Risikomanagement bezieht die Vertrauenswürdigkeit auf Entwicklung, Nutzung und Bewertung von KI-Systemen.

Fehler verursachen etwa Nacharbeit, falsche Auskünfte oder unerwünschte Änderungen. Sensible Aktionen können deshalb eine ausdrückliche Freigabe erfordern. Routineaktionen können innerhalb festgelegter Berechtigungen selbstständig laufen, wenn Risiko und Prozess dies zulassen.

Beispielrechnung für einen Monat

Annahmen: 600 Vorgänge mit jeweils 12.000 Eingabe- und 2.000 Ausgabetokens. Angenommene Preise: 0,20 Euro pro Million Eingabetokens und 1,20 Euro pro Million Ausgabetokens. Hinzu kommen 1.200 Werkzeugaufrufe zu je 0,01 Euro.

• Modelle: 7,2 × 0,20 € + 1,2 × 1,20 € = 2,88 €
• Werkzeugaufrufe: 12 €
• Hosting und Speicher: 60 €
• Integrationen und Überwachung: 80 €
• Tests und Auswertung: 120 €
• Pflege: 300 €
• Fehlerreserve: 30 €
• Monatsbudget: 604,88 €, gerundet 605 €

Eine beispielhaft angenommene Einrichtung für 3.000 Euro käme einmalig hinzu. Sämtliche Zahlen dienen nur als Rechenbeispiel und sind keine Marktpreise.

Wiederverwendbare Formel:

Monatsbudget = Modellkosten + Werkzeugkosten + Betrieb + Integrationen + Prüfung + Pflege + Fehlerreserve

Modellkosten = Eingabetokens in Millionen × Eingabepreis + Ausgabetokens in Millionen × Ausgabepreis

Für eine belastbare Kalkulation solltet ihr diese Positionen an eurem konkreten Arbeitsablauf prüfen. Wie Needs KI-Agenten für Unternehmen umsetzt, erfahrt ihr unter needs.expert.