Welche privaten Daten sollte ein KI-Agent sehen dürfen?

Montagmorgen soll ein KI-Agent einen Kundentermin vorbereiten. Dafür braucht er frühere Angebote, zuständige Ansprechpartner und freigegebene Produktunterlagen. Muss er deshalb auch den privaten Kalender des Geschäftsführers, seine E-Mails oder Personalakten lesen?

Die kurze Antwort: Ein KI-Agent sollte nur die Daten sehen dürfen, die er für eine klar definierte Aufgabe benötigt. Private Informationen bleiben privat. Teamweite Unterlagen stehen gemeinsamen Abläufen zur Verfügung, während bereichsbezogene Daten auf die zuständigen Rollen und Aufgaben begrenzt bleiben.

Private Daten: so wenig wie möglich

Persönliche Kalenderdetails, private Notizen, individuelle E-Mails und persönliche Chats gehören grundsätzlich nicht in den allgemeinen Arbeitskontext eines Agenten. Für eine Terminplanung kann es genügen, dass der Agent freie Zeitfenster erkennt. Die Inhalte privater Termine muss er dafür nicht kennen.

Gesundheitsdaten, politische oder religiöse Angaben sowie biometrische Daten zur eindeutigen Identifizierung zählen zu den besonderen Kategorien personenbezogener Daten und erfordern eine gesonderte rechtliche Prüfung. Aus Sicherheitsgründen sollten Passwörter, API-Schlüssel und private Schlüssel dem Agenten möglichst nicht als lesbarer Kontext vorliegen.

Teamweite Daten: freigegeben für gemeinsame Arbeit

Produktunterlagen, allgemeine Unternehmensinformationen, gemeinsame Aufgaben und freigegebene Gesprächsergebnisse können mehrere Mitarbeiter und Agenten benötigen. Der gemeinsame Zugriff sollte trotzdem an einen Zweck gebunden bleiben.

„Teamweit“ heißt nicht, dass jeder Agent den gesamten Unternehmensbestand lesen darf. Ein Agent für Angebote braucht beispielsweise Vorlagen, Leistungsbeschreibungen und frühere Angebote. Vollständige Personalakten oder interne Finanzplanungen gehören nicht automatisch dazu.

Bereichsdaten: Zugriff nach Rolle und Aufgabe

Vertriebs-, Finanz- und Personaldaten erfordern eigene Grenzen. Ein Vertriebsagent kann auf die für seine Aufgabe nötigen CRM-Daten und Angebote zugreifen. Daraus folgt kein Zugriff auf alle Unterlagen des Vertriebs oder anderer Bereiche.

Für jeden Agenten sollten Unternehmen daher festlegen:

• Welche Aufgabe erfüllt er?
• Welche Datenquellen darf er lesen?
• Darf er Inhalte verändern oder nur anzeigen?
• Welche Aktionen führt er selbst aus?
• Wann muss ein Mensch entscheiden?
• Wie lange bleiben die Daten verfügbar?
• Wie werden Zugriffe und Aktionen protokolliert?

Lese- und Schreibrechte verdienen eine getrennte Betrachtung. Eine interne Terminnotiz kann innerhalb eines klaren Rahmens automatisch entstehen. Eine Preisänderung oder der Versand einer rechtlich relevanten Nachricht kann dagegen eine ausdrückliche Freigabe benötigen. Diese Freigabe steuert das Risiko einzelner Aktionen. Sie ist kein allgemeines Merkmal jedes KI-Agenten.

Für personenbezogene Daten verlangt die DSGVO unter anderem Zweckbindung und Datenminimierung. Die DSGVO auf EUR-Lex beschreibt diese Grundsätze. Auch die OWASP-Empfehlungen für KI-Agenten empfehlen möglichst wenige Werkzeuge und Berechtigungen.

Was Needs daraus macht

Needs ist eine gemeinsame Arbeitsplattform für Mitarbeiter und KI-Agenten. Unternehmenswissen, Aufgaben und Agenten lassen sich dort für die Zusammenarbeit organisieren; welche Informationen ein Agent erhält, sollte weiterhin an seiner konkreten Aufgabe ausgerichtet werden.

Wer diese Grenzen vor dem ersten Einsatz festlegt, schafft einen kontrollierten Arbeitsrahmen. Mehr über den Einsatz von KI-Agenten bei Needs.