ChatGPT im Unternehmen: Warum zehn private Chats noch keine KI-Strategie sind

Wenn du ChatGPT im Unternehmen richtig nutzen willst, ist die Datenschutz-Checkliste der kleinere Teil der Arbeit. Mit einem Business-Tarif, ein paar klaren Regeln und einem Gespräch mit deinem Datenschutzbeauftragten ist das meiste geklärt. Schwieriger ist etwas, das in kaum einer Checkliste steht. In den meisten Firmen arbeitet jeder allein mit der KI, und alles, was dabei entsteht, bleibt im Verlauf dieser einen Person liegen. Dazu gehört der Kontext, den jemand mühsam eingetippt hat. Dazu gehören die Ergebnisse und das Wissen darüber, welcher Weg funktioniert. Das Unternehmen als Ganzes lernt davon nichts.

Eine KI-Strategie beginnt deshalb mit zwei Fragen. Wo liegt das Wissen, mit dem die KI arbeitet? Und wer kann sehen, was sie tut? Welche Lizenz du kaufst, entscheidest du danach.

Wie weit ist ChatGPT in deinem Unternehmen schon verbreitet?

Wahrscheinlich weiter, als du glaubst. Der Digitalverband Bitkom hat 2025 für eine repräsentative Umfrage 604 Unternehmen ab 20 Beschäftigten befragt. In 8 Prozent dieser Firmen nutzen Beschäftigte private KI-Zugänge wie ChatGPT weit verbreitet, in 17 Prozent gibt es Einzelfälle. Weitere 17 Prozent gehen davon aus, ohne es sicher zu wissen. Gleichzeitig stellen nur 26 Prozent ihren Leuten selbst einen Zugang zu generativer KI bereit, und knapp ein Viertel hat Regeln für den Einsatz aufgestellt (Bitkom, Oktober 2025).

Bitkom nennt das Schatten-KI. Gemeint ist KI, die Beschäftigte für die Arbeit nutzen, ohne dass das Unternehmen sie bereitstellt oder steuert. Microsoft und LinkedIn kamen 2024 in einer Befragung von 31.000 Menschen in 31 Ländern zum selben Bild. Dort brachten 78 Prozent der KI-Nutzer ihre eigenen Werkzeuge mit zur Arbeit, in kleinen und mittleren Unternehmen sogar 80 Prozent (Microsoft Work Trend Index 2024).

Die Nutzung hast du also längst im Haus. Es fehlt die Ordnung, und deshalb geht es bei der Einführung weniger darum, KI ins Unternehmen zu holen. Du musst die Nutzung, die schon da ist, aus den privaten Konten in eine gemeinsame Struktur bringen.

Ist Datenschutz wirklich das größte Risiko?

Das Risiko ist echt, aber es hängt vor allem daran, welche Art von Konto jemand nutzt. Bei den Diensten für Einzelpersonen, also dem normalen ChatGPT-Konto, kann OpenAI die Inhalte zum Training seiner Modelle verwenden. Das verhindert man nur, wenn man in den Einstellungen die Option „Improve the model for everyone“ abschaltet (OpenAI Help Center). Wer also eine Kundenmail in sein privates Konto kopiert, gibt sie womöglich für das Training frei, und du weißt nicht einmal, ob die Einstellung aktiv ist.

Bei den Unternehmenstarifen ChatGPT Business und Enterprise nutzt OpenAI Eingaben und Ausgaben nach eigenen Angaben standardmäßig nicht zum Training. Die Daten werden verschlüsselt gespeichert und übertragen (OpenAI, Business data). Allein der Wechsel von privaten Konten zu einem Firmenzugang beseitigt deshalb das größte praktische Datenschutzproblem.

Offen bleibt, welche Daten überhaupt in ein KI-Werkzeug dürfen. Bei personenbezogenen Daten von Kunden oder Mitarbeitern gehört dein Datenschutzbeauftragter an den Tisch, bevor jemand anfängt. Das ist ein Termin und kein Projekt über Monate.

Danach hast du ein sauberes Datenschutzthema, aber organisatorisch hat sich nichts verändert. Zehn Leute mit Business-Konto haben immer noch zehn getrennte Chatverläufe.

Was geht verloren, wenn jeder für sich mit der KI arbeitet?

Das liegt an der Technik. Ein Sprachmodell weiß über dein Unternehmen nur das, was im aktuellen Gespräch steht, und bei manchen Diensten noch das, was es sich über diese eine Person gemerkt hat. Den ganzen Rest muss der Mitarbeiter selbst eingeben: wer der Kunde ist, welche Preise gelten, welcher Ton passt und was beim letzten Mal vereinbart wurde. Jeder tut das anders, aus dem Gedächtnis und unvollständig.

Daraus folgen drei Probleme, die sich im Alltag gegenseitig verstärken.

Die Qualität hängt an der Person und nicht an der Aufgabe. Zwei Mitarbeiter stellen dieselbe Frage zu einem Angebot und bekommen zwei verschiedene Antworten, weil sie dem Modell verschiedene Informationen gegeben haben. Keiner von beiden hat etwas falsch gemacht. Es gibt nur keinen gemeinsamen Stand, von dem beide ausgehen.

Gute Arbeitsweisen verbreiten sich nicht. Hat jemand herausgefunden, wie er mit der KI Angebotstexte in einem Bruchteil der Zeit schreibt, liegt dieses Wissen in seinem Verlauf. Die Kollegen erfahren davon höchstens zufällig in der Kaffeeküche.

Die Ergebnisse landen nicht im Unternehmen. Eine Analyse wird in eine E-Mail kopiert, und die Begründung, die Quellen und die verworfenen Varianten bleiben im Chat. Wer in drei Monaten wissen will, warum ein Kunde diesen Preis bekommen hat, findet nur die Mail.

Das MIT-Projekt NANDA hat 2025 für einen Bericht über KI in Unternehmen 52 Interviews geführt und über 300 öffentlich bekannte KI-Projekte ausgewertet. Die Autoren sehen die Hauptursache für ausbleibende Wirkung in einer Lernlücke: Die meisten Systeme behalten kein Feedback, passen sich nicht an den Kontext an und werden mit der Zeit nicht besser. Ein Befragter beschreibt ChatGPT als sehr gut für Entwürfe. Es merke sich aber weder die Vorlieben von Kunden noch frühere Korrekturen, mache dieselben Fehler wieder und brauche in jeder Sitzung viel Kontext von vorn (Virtualization Review über den MIT-Bericht). Derselbe Bericht stellt fest, dass nur 40 Prozent der Unternehmen ein offizielles Abo gekauft haben, während Beschäftigte aus über 90 Prozent der Unternehmen regelmäßig private KI-Werkzeuge für die Arbeit nutzen.

Wie viel Zeit allein das wiederholte Erklären kostet, zeigt eine einfache Rechnung. Nimm als Annahme zehn Mitarbeiter, die jeden Tag eine Viertelstunde damit verbringen, der KI Hintergrund zu erklären, den sie eigentlich schon kennen müsste. Das sind zweieinhalb Stunden am Tag und bei 20 Arbeitstagen rund 50 Stunden im Monat. Diese Zeit fließt in Eingaben, die morgen wieder jemand tippt.

Warum reichen Business-Lizenzen allein nicht?

Eine Business-Lizenz regelt, was mit den Daten passiert und wer ein Konto bekommt. Die Arbeitsweise bleibt dieselbe. Ein Chat ist weiterhin ein Gespräch zwischen einer Person und einem Modell.

OpenAI bietet im Business-Tarif geteilte Projekte an, in denen ein Team gemeinsame Anweisungen und Dateien nutzt. Geteilte Projekte bekommen dabei ein Gedächtnis, das nur für dieses Projekt gilt (OpenAI Help Center zu Projekten). Das hilft, weil ein Team so wenigstens von denselben Unterlagen ausgeht. Es verschiebt das Problem aber auf die Pflege. Jemand muss die Preisliste austauschen, wenn sie sich ändert, und die Anweisungen anpassen, wenn sich ein Ablauf ändert. Alles, was im Alltag neu entsteht, etwa eine Entscheidung im Meeting oder eine Absprache am Telefon, kommt nur hinein, wenn es jemand von Hand einträgt.

Damit wird gemeinsames Wissen zu einer Pflegeaufgabe neben der eigentlichen Arbeit. Wer schon einmal ein Firmenwiki eingeführt hat, kennt den Verlauf. Am Anfang sind alle motiviert, nach einem halben Jahr stimmt die Hälfte nicht mehr, und dann vertraut niemand mehr dem Rest.

Dazu kommt ein Punkt, den viele erst bemerken, wenn jemand kündigt. Was ein Mitarbeiter in seinem privaten Konto erarbeitet hat, nimmt er mit, und das Unternehmen hat nie Zugriff darauf gehabt.

Warum ist nachvollziehbare Arbeit wichtiger als der perfekte Prompt?

Im Work Trend Index gaben 52 Prozent der KI-Nutzer an, dass sie ungern zugeben, KI für ihre wichtigsten Aufgaben zu verwenden. 53 Prozent fürchten, dass sie dadurch ersetzbar wirken (Microsoft Work Trend Index 2024). Für dich als Geschäftsführer heißt das, dass KI-Ergebnisse in dein Unternehmen gelangen, ohne dass jemand weiß, dass eine KI beteiligt war, auf welchen Informationen sie beruhen und ob jemand sie geprüft hat.

Das wird zum Problem, sobald etwas schiefgeht. Steht in einem Kundenangebot eine falsche Lieferzeit, weil das Modell eine Zahl aus einem veralteten Dokument übernommen hat, kann niemand nachvollziehen, woher sie kam. Der Fehler lässt sich korrigieren, die Ursache aber nicht, und deshalb passiert er wieder.

Nachvollziehbar heißt konkret, dass du sehen kannst, welche Informationen die KI genutzt hat, was sie erzeugt hat und wer mit dem Ergebnis weitergearbeitet hat. Das ist keine Kontrolle aus Misstrauen. Ohne diese Spur kannst du der KI keine Aufgaben übertragen, die über einen Entwurf hinausgehen, weil niemand Verantwortung für einen Vorgang übernehmen kann, den er nicht sieht.

Der erste Schritt dahin ist kulturell. Solange Mitarbeiter ihre KI-Nutzung verstecken, bleibt sie unsichtbar, egal welches Werkzeug du kaufst. Microsoft fand außerdem, dass besonders intensive Nutzer deutlich häufiger von ihrer Geschäftsführung hören, dass KI ausdrücklich gewollt ist. Wenn du das offen sagst, holst du die Arbeit aus dem Schatten.

Was bedeutet ein gemeinsamer Kontext in der Praxis?

Ein gemeinsamer Kontext ist das Wissen über dein Unternehmen, auf das die KI für alle zugreift, statt dass jeder es neu eingibt. Damit das im Alltag trägt, muss er ein paar Eigenschaften haben.

Er ist nach Bereichen getrennt. Der Vertrieb braucht Kundenhistorie, Preislogik und laufende Angebote, aber keine Gehaltsdaten. Rechte gelten für das Wissen der KI also genauso wie für Ordner auf dem Server.

Er füllt sich aus der Arbeit selbst. Meeting-Protokolle, verschickte Angebote, Kundenanfragen und abgeschlossene Aufgaben landen dort, ohne dass jemand sie ablegen muss. Nur so bleibt er aktuell, weil die Pflege nicht an einer Person hängt, die dafür keine Zeit hat.

Er ist lesbar und korrigierbar. Wenn die KI etwas Falsches über einen Kunden „weiß“, muss ein Mitarbeiter das sehen und richtigstellen können. Ein Wissensspeicher, in den niemand hineinschauen kann, erzeugt dieselbe Unsicherheit wie ein privater Chat.

Er lässt Privates privat. Wer eine Formulierung ausprobieren oder eine persönliche Frage stellen will, braucht einen Raum, der nicht ins Firmenwissen fließt. Sonst weichen die Leute wieder auf private Konten aus.

Und er lässt sich mitnehmen. Wenn du das Werkzeug irgendwann wechselst, muss das gesammelte Wissen exportierbar sein. Andernfalls hast du die Verstreuung nur von zehn Konten in ein einziges fremdes System verlegt.

Wann wird aus dem Chat ein KI-Agent?

Ein KI-Agent ist ein System, das nicht nur antwortet, sondern Aufgaben in deinen Werkzeugen ausführt, im Rahmen der Rechte, die du ihm gibst. Erst ein gemeinsamer Kontext macht das sinnvoll, weil ein Agent, der auf dem Chatverlauf einer einzelnen Person aufbaut, nur weiß, was diese Person ihm erzählt hat.

Ein Beispiel aus dem Vertrieb zeigt, wie das aussieht. Eine Anfrage kommt per Mail herein. Der Agent für Angebote liest die Kundenhistorie aus dem CRM, erstellt einen Angebotsentwurf auf Basis der aktuellen Preisliste, hängt ihn an die passende Aufgabe und setzt eine Wiedervorlage für die Nachfrage. Das sind erlaubte Routineaktionen, und der Agent erledigt sie selbst. Soll das Angebot mit einem Rabatt über der festgelegten Grenze rausgehen, ist das eine verbindliche Zusage mit echtem Risiko, und dafür gibt ein Mensch es frei.

Im Kundenservice beantwortet ein Agent Fragen zum Lieferstatus aus den Daten des Warenwirtschaftssystems, dokumentiert die Antwort beim Kunden und gibt eine Reklamation mit dem ganzen Vorgang an den zuständigen Kollegen weiter.

In beiden Fällen legen Menschen fest, welches Ziel der Agent verfolgt, auf welche Systeme und Daten er zugreift und wo seine Grenze liegt. Innerhalb dieser Grenze arbeitet er, und jede Aktion ist protokolliert. Deshalb hängt die Frage, wie viel du einem Agenten überlassen kannst, direkt an der Nachvollziehbarkeit aus dem vorigen Abschnitt.

Wie führst du KI im Unternehmen geordnet ein?

Die Reihenfolge ist wichtiger als das Werkzeug. Diese Schritte haben sich bewährt, weil jeder auf dem vorigen aufbaut.

1. Frag nach, bevor du regelst. Finde heraus, wer schon welche KI wofür nutzt, und mach klar, dass es keine Konsequenzen hat. Du erfährst dabei, welche Aufgaben sich lohnen, weil deine Leute sie schon ausprobiert haben.
2. Hol die Nutzung aus den privaten Konten. Stell einen Firmenzugang bereit und leg fest, welche Werkzeuge für welchen Zweck erlaubt sind. Bitkom empfiehlt genau das als Kern einer Unternehmensrichtlinie.
3. Schreib kurze Regeln. Eine Seite reicht, wenn sie sagt, welche Daten nicht in ein KI-Werkzeug gehören, wer Ergebnisse vor dem Versand prüft und wen man bei Unsicherheit fragt.
4. Fang mit zwei oder drei wiederkehrenden Aufgaben an, bei denen Kontext zählt. Angebote, Kundenanfragen und Meeting-Protokolle eignen sich, weil dort dieselben Informationen ständig gebraucht werden. Bau für diese Aufgaben zuerst den gemeinsamen Kontext auf.
5. Leg fest, wo Ergebnisse landen. Ein Angebot gehört zum Kunden und ein Protokoll zum Projekt. Solange Ergebnisse nur im Chat existieren, hast du nichts gewonnen.
6. Bestimm Rechte und Grenzen, bevor du automatisierst. Kläre, welche Aktionen ein Agent selbst ausführen darf und welche wenigen eine Freigabe brauchen, weil sie Geld kosten oder dich binden.
7. Schau nach ein paar Wochen nach, was wiederverwendet wird. Wenn Kollegen auf Ergebnisse anderer zugreifen und die KI weniger erklärt bekommen muss, funktioniert der gemeinsame Kontext. Wenn nicht, liegt es meistens an Schritt 4 oder 5.

Ob deine KI-Einführung gelingt, erkennst du an einer Frage. Wird die Arbeit mit der KI im zehnten Monat leichter als im ersten, weil das Unternehmen dazugelernt hat? Mit zehn privaten Chats bleibt jeder Monat der erste.

Häufige Fragen

Darf ich ChatGPT im Unternehmen mit Kundendaten nutzen?

Mit einem privaten Konto solltest du das nicht tun, weil OpenAI Inhalte aus diesen Konten zum Training nutzen kann, solange niemand die Option abschaltet. Bei den Business-Tarifen nutzt OpenAI Eingaben standardmäßig nicht zum Training.

Ob personenbezogene Kundendaten in ein bestimmtes Werkzeug dürfen, klärst du mit deinem Datenschutzbeauftragten, bevor das Team damit arbeitet.

Reicht ChatGPT Business für eine KI-Strategie?

Für die Datenfrage ist es ein guter Schritt. Für die Organisation reicht es nicht, weil jeder Mitarbeiter weiter in eigenen Verläufen arbeitet. Geteilte Projekte helfen, aber jemand muss sie pflegen.

Eine Strategie braucht zusätzlich einen gemeinsamen Kontext und einen festen Ort für die Ergebnisse.

Sollte ich die private Nutzung von ChatGPT verbieten?

Ein Verbot ohne Alternative drängt die Nutzung nur weiter in den Schatten. Sinnvoller ist ein Firmenzugang mit klaren Regeln und die ausdrückliche Aussage, dass KI-Nutzung gewollt ist. Danach kannst du die Verarbeitung von Firmendaten in privaten Konten untersagen, und die Regel wird auch eingehalten.

Was ist Schatten-KI?

Schatten-KI ist KI, die Beschäftigte für die Arbeit nutzen, ohne dass das Unternehmen sie bereitstellt, kennt oder steuert, meistens über private Konten. Laut Bitkom gehen rund vier von zehn Unternehmen in Deutschland davon aus, dass das bei ihnen passiert.

Womit fange ich an, wenn wir noch gar nichts geregelt haben?

Frag dein Team, wer KI wofür nutzt, und stell einen Firmenzugang mit einer Seite Regeln bereit. Nimm dir dann eine wiederkehrende Aufgabe wie Angebote vor und sorg dafür, dass die KI dort für alle mit denselben Informationen arbeitet.