Shadow AI: Wie Unternehmen unkontrollierte KI-Agenten verhindern

Montagmorgen lässt ein Mitarbeiter einen KI-Agenten neue Vertriebschancen recherchieren. Eine Kollegin nutzt einen anderen Dienst, um Bewerbungen zu sortieren. Niemand weiß genau, welche Daten die Systeme sehen, welche Aktionen sie ausführen oder wer die Ergebnisse verantwortet.

Genau hier entsteht Shadow AI: Mitarbeiter setzen KI ein, ohne dass das Unternehmen sie geprüft, freigegeben oder zentral eingeordnet hat.

Shadow AI bei KI-Agenten verhindert ihr mit einem sicheren, leicht nutzbaren Rahmen. Dazu gehören bekannte Einsatzbereiche, begrenzte Rechte, klare Zuständigkeiten und nachvollziehbare Protokolle. Mitarbeiter brauchen eine freigegebene Möglichkeit, geeignete KI-Agenten einzusetzen. Ein pauschales Verbot beseitigt den Arbeitsbedarf nicht und kann die Nutzung lediglich unsichtbar machen.

Was einen KI-Agenten ausmacht

Viele KI-Agenten bearbeiten ein Ziel über mehrere Schritte. Je nach System verarbeiten sie Informationen, wählen Werkzeuge aus, rufen Schnittstellen auf und führen erlaubte Aktionen aus. Manche arbeiten nach einem festen Ablauf, andere steuern ihren Prozess dynamisch.

Unternehmen sollten dabei drei Dinge getrennt betrachten:

• Fähigkeit: Was kann der Agent technisch tun?
• Berechtigung: Auf welche Daten und Werkzeuge darf er zugreifen?
• Freigabe: Für welche sensiblen, ungewöhnlichen oder irreversiblen Aktionen soll ein Mensch vorher zustimmen?

Eine Freigabe ist damit eine zusätzliche Kontrollmaßnahme, kein notwendiges Merkmal jedes KI-Agenten. Routineaufgaben können innerhalb festgelegter Rechte selbstständig laufen.

Der sichere Rahmen für den Mittelstand

Für jeden Agenten sollten Zweck, verantwortliche Person, Datenzugriffe, Werkzeuge, Laufzeit und Abschaltung feststehen. Geeignete Protokolle können nachvollziehbar machen, was der Agent getan und welche Werkzeuge oder Daten er verwendet hat.

Praktisch heißt das: Ein Agent darf beispielsweise freigegebene Informationen aus einem bestimmten Ordner auswerten und das Ergebnis in einem separaten Dokument ablegen. Er darf keine Nachricht versenden, keine Daten löschen und keine Entscheidung anstelle eines Verantwortlichen treffen. Für besonders folgenreiche Aktionen kann das Unternehmen eine ausdrückliche Freigabe vorsehen.

Weitere Orientierung geben die Empfehlungen von Microsoft zum Umgang mit Risiken autonomer KI-Agenten und die Risikobetrachtung der Europäischen Kommission zum AI Act. Der AI Act behandelt nicht jeden Agenten gleich. Einsatzgebiet und Risikoklasse bestimmen die Anforderungen. KI-gestützte Lebenslauf-Sortierung zählt dabei zu den besonders sensiblen Anwendungsfällen.

Wie Needs dabei eingeordnet werden kann

Needs ist ein Agent OS für Unternehmen, in dem KI-Agenten zusammenarbeiten und gemeinsames Firmenwissen nutzen. Menschen behalten dabei die Kontrolle über die Arbeit der KI-Agenten.

So entsteht ein nutzbarer Weg zwischen privaten Einzellösungen und einem Verbot, das den Bedarf ignoriert. Entscheidend ist, KI-Agenten dort einzusetzen, wo ihr Zweck, ihr Zugriff und ihre Grenzen für das Unternehmen verständlich bleiben.

Mehr über Needs erfahren.