KI im Unternehmen einführen: Warum Mittelständler mit einer Aufgabe beginnen sollten

Du kommst mit KI im Mittelstand schneller zu Ergebnissen, wenn du eine einzige lästige, wiederkehrende Aufgabe komplett an einen KI-Agenten übergibst, als wenn du zuerst eine KI-Strategie schreibst. Der Agent bekommt die Rechte, die er für genau diese Aufgabe braucht. Er erledigt sie ab der ersten Woche selbst, und du gibst ihm mehr Zuständigkeit, sobald du siehst, dass er zuverlässig arbeitet. Die Strategie entsteht dabei aus dem, was in deinem Betrieb tatsächlich funktioniert hat. Ein Workshop kann das nicht leisten, weil dort noch niemand weiß, was ein Agent mit euren Daten und Systemen schafft.

Die meisten Leitfäden zur KI-Einführung empfehlen den umgekehrten Weg. Sie beschreiben Programme mit fünf bis neun Schritten, die mit Bestandsaufnahme, Zieldefinition und Use-Case-Workshop beginnen und nach sechs bis zwölf Monaten bei der Skalierung ankommen. Das wirkt gründlich. Es schiebt aber den Moment, in dem eine echte Aufgabe erledigt wird, so weit nach hinten, dass viele Vorhaben vorher einschlafen.

Warum so viele KI-Projekte im Pilotstadium hängen bleiben

Am Interesse fehlt es nicht. Laut Statistischem Bundesamt nutzten 2025 schon 26 Prozent der Unternehmen in Deutschland KI. Bei Firmen mit 10 bis 49 Beschäftigten waren es 23 Prozent, bei Firmen mit 50 bis 249 Beschäftigten 36 Prozent. Bitkom Research hat im Sommer 2026 603 Unternehmen mit mehr als 20 Beschäftigten befragt und kommt sogar auf 57 Prozent, wie die ZEIT berichtet. Aus derselben Umfrage stammt aber auch der Befund, dass kein einziges Unternehmen angibt, das Potenzial von KI voll auszuschöpfen. 59 Prozent schöpfen es nach eigener Einschätzung überhaupt nicht aus und weitere 28 Prozent nur wenig.

Die Lücke zwischen „wir nutzen KI“ und „KI erledigt bei uns Arbeit“ hat die MIT-Initiative NANDA 2025 untersucht. Für den Bericht „The GenAI Divide“ wertete das Team 150 Interviews mit Führungskräften aus, dazu eine Umfrage unter 350 Beschäftigten und 300 öffentlich dokumentierte KI-Projekte. Nur etwa 5 Prozent der Pilotprojekte brachten schnell messbaren Umsatz. Die übrigen hatten kaum Wirkung auf das Ergebnis, wie Fortune zusammenfasst. Die Autoren sehen das Problem weniger bei den Modellen als bei der Einbindung in die Abläufe. Allgemeine Chat-Werkzeuge helfen dem Einzelnen, weil sie flexibel sind. Im Unternehmen kommen sie aber nicht weiter, weil sie nichts über die dortigen Abläufe lernen und sich nicht an sie anpassen.

Gartner erwartet, dass mehr als 40 Prozent der Projekte mit KI-Agenten bis Ende 2027 abgebrochen werden. Als Gründe nennt Gartner steigende Kosten, unklaren Geschäftsnutzen und unzureichende Risikokontrollen. Diese drei Gründe hängen zusammen. Ein Projekt, das lange nichts Konkretes liefert, bietet nichts, woran sich Nutzen, Kosten und Risiko messen ließen. Also steigen die Kosten, der Nutzen bleibt eine Behauptung, und die Risiken lassen sich nur theoretisch bewerten.

Warum eine KI-Strategie am Anfang wenig trägt

Eine Strategie setzt voraus, dass du weißt, was möglich ist, und genau dieses Wissen fehlt am Anfang. Laut Destatis nennen 72 Prozent der Unternehmen, die KI in Betracht gezogen, aber nicht eingesetzt haben, fehlendes Wissen als Grund. Bei Bitkom sagen 85 Prozent der Nichtnutzer, ihnen fehle das technische Know-how. Ein Use-Case-Workshop füllt diese Lücke mit Vermutungen. Das Team sammelt Ideen, schätzt Nutzen und Aufwand und wählt dann meist die Vorhaben, die im Raum am überzeugendsten klingen. Das sind oft große Themen wie „KI im Vertrieb“ oder „Wissensmanagement“. Die kleinen, lästigen Aufgaben wirken in einem Strategietermin zu banal, als dass jemand sie vorschlagen würde.

Aus dem großen Thema wird dann ein Projekt mit Lastenheft, Anbieterauswahl, Schnittstellenarbeit und Testphase. Bei einer Maßanfertigung kommen noch Datenaufbereitung, Entwicklung und Abstimmungen mit der IT dazu. Jeder dieser Schritte ist für sich vernünftig. Keiner davon erledigt aber eine Aufgabe, und bezahlt wird trotzdem. Die MIT-Daten zeigen, wie riskant vor allem der Eigenbau ist. Unternehmen, die KI-Werkzeuge bei spezialisierten Anbietern kaufen und mit ihnen zusammenarbeiten, hatten in rund 67 Prozent der Fälle Erfolg. Eigene Entwicklungen gelangen nur etwa ein Drittel so oft.

Dazu kommt ein Problem mit der Messung. Solange der Agent nichts erledigt, kann niemand sagen, ob sich der Aufwand lohnt. Das Projekt lässt sich also nur mit Annahmen verteidigen. Wenn das Budget knapp wird, trifft es deshalb zuerst die Vorhaben, die nichts vorzeigen können.

Welche Aufgabe sich für den Anfang eignet

Die beste erste Aufgabe ist eine, über die sich im Team schon lange jemand ärgert. Sie kommt jeden Tag oder jede Woche wieder und folgt einem erkennbaren Muster. Man kann am Ende eindeutig sagen, ob sie erledigt ist. Die nötigen Informationen liegen in Systemen, auf die ein Agent zugreifen kann, also im Postfach, im Kalender, im CRM oder auf einem geteilten Laufwerk. Und ein Fehler lässt sich korrigieren, ohne dass Geld abfließt oder ein Kunde eine Zusage bekommt, die du nicht geben wolltest.

Typische Kandidaten im Mittelstand sind:

• offene Angebote nachfassen, wenn nach einer Woche keine Antwort gekommen ist
• aus Besprechungen Protokoll, Entscheidungen und Aufgaben machen und die Aufgaben den Zuständigen zuweisen
• Anfragen im Sammelpostfach sortieren, Standardfragen beantworten und den Rest an die richtige Person weitergeben
• nach Kundenterminen die CRM-Einträge nachtragen
• jede Woche prüfen, was sich bei den wichtigsten Kunden und Wettbewerbern öffentlich tut, und das Relevante zusammenfassen

Keine dieser Aufgaben wirkt strategisch, und gerade deshalb eignen sie sich. MIT NANDA fand den größten Ertrag im Backoffice, also bei Abläufen, für die bisher externe Dienstleister bezahlt wurden oder die intern viel Zeit binden. Mehr als die Hälfte der KI-Budgets floss dagegen in Werkzeuge für Vertrieb und Marketing. Kleine, klar umrissene Aufgaben haben noch einen praktischen Vorteil. Du kannst nach zwei Wochen beurteilen, ob der Agent sie gut erledigt, weil du genau weißt, wie ein gutes Ergebnis aussieht.

Warum der Agent die ganze Aufgabe übernehmen sollte

Viele erste Versuche scheitern daran, dass die Aufgabe nur zur Hälfte übergeben wird. Der Agent schreibt einen Entwurf für die Nachfass-Mail. Ein Mitarbeiter liest ihn, ergänzt den Ansprechpartner, sucht das Angebot heraus, schickt die Mail ab und trägt die Aktivität im CRM ein. Die Arbeit ist dadurch kaum weniger geworden, weil das Formulieren ohnehin nur ein paar Minuten gekostet hat. Die Zeit geht beim Heraussuchen, beim Abgleichen und beim Dranbleiben verloren. Nach ein paar Wochen heißt es dann, KI bringe bei uns wenig, und für diese Art der Nutzung stimmt das sogar.

Eine Aufgabe komplett zu übergeben heißt, dass der Agent sie von Anfang bis Ende erledigt. Er erkennt, welche Angebote seit sieben Tagen ohne Antwort sind, und schreibt dem richtigen Ansprechpartner mit Bezug auf das konkrete Angebot. Dann verschickt er die Mail, vermerkt sie im CRM und legt eine Wiedervorlage an, falls wieder keine Antwort kommt. Ein Mensch kommt in diesem Ablauf erst vor, wenn der Kunde etwas verlangt, das eine Entscheidung braucht, etwa einen Preisnachlass oder einen früheren Liefertermin. Das wäre eine verbindliche Zusage, und die gibst du selbst frei.

Die übergebene Aufgabe spart nicht nur Zeit. Wenn der Agent zuständig ist, ist klar, wer das Nachfassen erledigt. Die Aufgabe bleibt dann auch nicht mehr liegen, wenn jemand im Urlaub oder krank ist.

Welche Rechte der Agent braucht

Damit ein Agent eine Aufgabe erledigen kann, braucht er Zugriff auf die Systeme, in denen sie stattfindet. Viele Unternehmen zögern an dieser Stelle und geben dem Agenten nur Lesezugriff. Damit bleibt er aber ein Entwurfsschreiber, und jemand muss jede Mail doch wieder selbst anfassen. Der bessere Maßstab ist, genau die Rechte zu vergeben, die diese eine Aufgabe braucht, und keine darüber hinaus.

Das OWASP GenAI Security Project beschreibt das Risiko zu weit gefasster Agenten unter dem Namen Excessive Agency. Es entsteht, wenn ein Agent mehr Funktionen, mehr Berechtigungen oder mehr Autonomie hat, als seine Aufgabe erfordert. Das Beispiel von OWASP leuchtet sofort ein. Ein Agent, der E-Mails nur zusammenfassen soll, braucht Lesezugriff auf das Postfach, aber keine Funktion zum Senden oder Löschen. Ein Agent, der Angebote nachfassen soll, braucht dagegen das Recht zum Senden, aber keinen Zugriff auf die Buchhaltung. OWASP empfiehlt außerdem, Berechtigungen im Zielsystem durchzusetzen, statt dem Modell die Entscheidung zu überlassen, und alle Aktionen zu protokollieren. Beides lässt sich direkt auf eine erste Aufgabe übertragen.

Für das Nachfassen heißt das: Der Agent darf Mails an Kontakte mit offenem Angebot senden und Aktivitäten im CRM anlegen, und innerhalb dieses Rahmens handelt er selbst. Für die wenigen Aktionen mit echtem Risiko verlangst du eine ausdrückliche Freigabe. Dazu gehören eine Zahlung, eine Preisänderung oder die Zusage eines Liefertermins. Auch OWASP nennt die menschliche Freigabe folgenreicher Aktionen als Schutzmaßnahme. Wenn du dagegen jede Routinemail freigeben lässt, verlierst du den Nutzen der Übergabe, weil dann doch wieder jemand bei jedem Vorgang dabei sein muss.

Weil der Agent protokolliert, was er getan hat, kannst du in den ersten Wochen nachlesen und musst nicht mitarbeiten. Du prüfst Stichproben und änderst die Regeln, wenn dir etwas nicht gefällt. So behältst du die Kontrolle, ohne die Arbeit selbst zu machen.

Wie du die Zuständigkeit Woche für Woche ausweitest

In den ersten zwei Wochen schaust du dem Agenten bei der Arbeit zu. Lies das Protokoll, sieh dir Stichproben der verschickten Mails an und korrigiere, was nicht passt. Meist geht es um Details wie Tonfall, Anrede oder die Frage, nach wie vielen Tagen nachgefasst wird. Wenn der Agent nach einer Korrektur dieselbe Art von Fehler nicht wiederholt, ist die Aufgabe bei ihm gut aufgehoben.

Danach wächst seine Zuständigkeit in zwei Richtungen. Die erste Richtung ist die Aufgabe selbst. Der Agent beantwortet dann auch einfache Rückfragen zum Angebot, etwa zu Lieferzeiten, die im System stehen, oder schickt ein fehlendes Datenblatt hinterher. Die zweite Richtung sind benachbarte Aufgaben, die dieselben Daten und Rechte nutzen. Dazu gehört etwa die Pflege des Angebotsstatus im CRM oder eine wöchentliche Übersicht, welche Angebote bald ablaufen.

Jede Erweiterung folgt derselben Regel wie der Start. Du vergibst die Rechte, die der neue Teil braucht, schaust eine Weile genauer hin und lässt den Agenten dann allein arbeiten. Nach einigen Monaten weißt du, welche Arten von Arbeit ein Agent in deinem Unternehmen zuverlässig erledigt, welche Daten fehlen und an welchen Stellen er Hilfe braucht. Aus diesem Material besteht eine brauchbare KI-Strategie. Es stammt aus deinem eigenen Betrieb und nicht aus einer Liste möglicher Anwendungsfälle.

Dazu passt ein weiterer Befund von MIT NANDA. Einführungen laufen besser, wenn Führungskräfte in den Fachbereichen sie vorantreiben und nicht nur ein zentrales KI-Team. Wer eine Aufgabe selbst kennt, erkennt schneller, ob der Agent sie richtig erledigt. Er weiß auch, welche Nachbaraufgabe als nächste passt.

Was der Umweg über das Großprojekt kostet

Die größten Kosten einer KI-Einführung stehen selten auf der Rechnung des Anbieters. Sie entstehen in der Zeit, bis eine Aufgabe tatsächlich erledigt wird. Eine Beispielrechnung zeigt das, und ihre Zahlen sind Annahmen. Nachfassen, CRM-Pflege und das Sortieren des Sammelpostfachs kosten ein Team zusammen sechs Stunden pro Woche. Ein klassisches Einführungsprogramm mit Workshop, Konzept, Anbieterauswahl und Pilot braucht sechs Monate, bis der erste Agent im Alltag läuft.

In diesen rund 26 Wochen erledigt das Team die Aufgaben weiter von Hand, also etwa 156 Stunden lang. Dazu kommen die Stunden der Beteiligten in Workshops und Abstimmungsterminen sowie das Budget für Beratung oder Entwicklung. Übergibst du die erste Aufgabe dagegen in der zweiten Woche, wird der größte Teil dieser Stunden frei, sobald der Agent zuverlässig arbeitet. Nach einem halben Jahr hat dein Team dann Erfahrung mit mehreren übergebenen Aufgaben und nicht nur ein Konzeptpapier.

Den zweiten Kostenpunkt kann man schwerer beziffern. Ein Großprojekt bindet die Aufmerksamkeit der Geschäftsführung über Monate, und zwischendurch lässt sich kaum erkennen, ob der Weg stimmt. Eine übergebene Aufgabe zeigt jede Woche, ob sie funktioniert. Wenn sie sich als ungeeignet herausstellt, nimmst du eben die nächste und hast dabei kein halbes Jahr Planung verloren.

Wo der Ansatz an Grenzen stößt

Nicht jede lästige Aufgabe lässt sich sofort übergeben. Wenn die nötigen Informationen auf Papier, in den Köpfen einzelner Leute oder in einer alten Branchensoftware ohne Schnittstelle stecken, kommt der Agent nicht an sie heran. Dann wählst du eine andere erste Aufgabe, oder du sorgst zuerst dafür, dass die Daten digital verfügbar sind. Auch Gartner weist darauf hin, dass sich Agenten technisch nur schwer in Altsysteme einbinden lassen und dass das oft teure Anpassungen verlangt. Das spricht dafür, mit einer Aufgabe in Mail, Kalender oder CRM zu beginnen, weil diese Systeme meist ohnehin Schnittstellen haben.

Aufgaben, bei denen fast jede Entscheidung Ermessen verlangt, eignen sich ebenfalls schlecht für den Anfang. Wenn du selbst nicht beschreiben kannst, wann die Aufgabe gut erledigt ist, kann der Agent es auch nicht lernen, und du kannst seine Arbeit nicht prüfen. Umgekehrt stellt Gartner fest, dass viele Anwendungen, die heute als Agenten verkauft werden, gar keinen Agenten brauchen. Wenn ein Ablauf jedes Mal exakt gleich läuft, reicht oft eine klassische Automatisierung, und die ist günstiger und berechenbarer.

Personalthemen gehören nicht an den Anfang. Anhang III der EU-KI-Verordnung stuft KI-Systeme als Hochrisiko ein, die Bewerbungen sichten oder Bewerber bewerten. Dasselbe gilt für Systeme, die über Beförderungen und Kündigungen mitentscheiden oder die Leistung von Beschäftigten bewerten. Für solche Systeme gelten deutlich strengere Anforderungen als für einen Agenten, der Angebote nachfasst.

Und schließlich gilt Artikel 4 der KI-Verordnung auch für dich. Wer KI-Systeme in eigener Verantwortung einsetzt, muss Maßnahmen ergreifen, die den Aufbau von KI-Kompetenz beim eigenen Personal unterstützen. Ein bestimmtes Niveau musst du seit dem KI-Omnibus nicht mehr garantieren. Dabei zählen die Vorkenntnisse der Leute und der Kontext, in dem das System eingesetzt wird. Das bremst einen schnellen Start nicht. Es heißt aber, dass die Menschen, die mit dem Agenten arbeiten, verstehen sollten, was er tut und wo er Fehler machen kann. Eine konkrete übergebene Aufgabe ist dafür ein besserer Lernstoff als eine allgemeine Schulung, weil das Team die Fehler und Stärken des Agenten an der eigenen Arbeit sieht.

Häufige Fragen

Brauche ich trotzdem irgendwann eine KI-Strategie?

Ja, aber sie sollte auf Erfahrung beruhen. Wenn nach einigen Monaten drei oder vier Aufgaben zuverlässig bei Agenten liegen, weißt du, welche Daten fehlen, welche Rechte sich bewährt haben und welche Bereiche als Nächstes dran sind. Auf dieser Grundlage kannst du Prioritäten und Budget viel besser festlegen als vor dem ersten Versuch.

Wie schnell erledigt ein KI-Agent eine Aufgabe zuverlässig?

Das hängt davon ab, wie klar die Aufgabe beschrieben ist und wie gut der Agent an die Daten kommt. Plane zwei Wochen ein, in denen du das Protokoll liest und korrigierst. Wiederholt der Agent danach keine Fehler, die du schon korrigiert hast, kannst du ihn allein arbeiten lassen.

Was passiert, wenn der Agent einen Fehler macht?

Genau deshalb eignen sich für den Anfang Aufgaben, bei denen sich Fehler korrigieren lassen, wie eine Nachfass-Mail mit falscher Anrede. Weil der Agent jede Aktion protokolliert, siehst du den Fehler, kannst ihn beheben und die Regel anpassen. Aktionen mit echtem Risiko wie Zahlungen oder verbindliche Zusagen gibst du ohnehin selbst frei.

Was ist mit dem Datenschutz?

Datenschutz ist laut Bitkom für 66 Prozent der Unternehmen das größte Hindernis beim Einsatz von KI. Prüf vor dem Start, wo der Anbieter die Daten verarbeitet, ob er mit ihnen eigene Modelle trainiert und ob er einen Vertrag zur Auftragsverarbeitung anbietet. Wenn du mit einer Aufgabe beginnst, musst du diese Fragen nur für die Daten klären, die diese Aufgabe braucht.

Müssen meine Mitarbeiter geschult werden?

Artikel 4 der EU-KI-Verordnung verlangt von Unternehmen, die KI-Systeme einsetzen, Maßnahmen, die die KI-Kompetenz ihres Personals unterstützen. Das muss kein Seminarprogramm sein. Wichtig ist, dass die Leute, die mit dem Agenten arbeiten, seine Grenzen kennen und wissen, wann sie eingreifen sollten.