Welche Schulung brauchen Mitarbeiter für KI-Agenten?

Eine Mitarbeiterin soll eingehende Lieferantenanfragen vorsortieren. Der KI-Agent liest E-Mails, vergleicht Liefertermin und Mindestbestellmenge und erstellt einen Antwortentwurf. Was passiert bei widersprüchlichen Angaben? Darf der Agent eine Bestellung auslösen? Und welche Daten darf die Mitarbeiterin eingeben?

Genau solche Fragen muss eine KI-Agenten-Schulung beantworten. Mitarbeiter brauchen vor allem vier Fähigkeiten: Aufgaben klar formulieren, Ergebnisse prüfen, Daten schützen und bei Fehlern richtig reagieren.

1. Aufgaben und Grenzen festlegen

Ein Agent arbeitet zuverlässiger, wenn der Auftrag eindeutig ist. Mitarbeiter sollten Ziel, Ausgangslage, gewünschtes Ergebnis, Frist und Einschränkungen beschreiben können.

Zusätzlich muss klar sein, welche Aktionen der Agent ausführen darf. Je nach Einrichtung kann er Informationen verarbeiten, Arbeitsschritte planen oder Werkzeuge nutzen. Die Schulung zeigt deshalb, wo seine Zuständigkeit endet.

Im Beispiel darf der Agent E-Mails lesen und Antwortentwürfe erstellen. Verbindliche Bestellungen darf er nicht auslösen. Diese Grenze gehört in die Arbeitsanweisung und in die technischen Berechtigungen.

2. Ergebnisse kritisch prüfen

Auch ein präziser Auftrag verhindert keine erfundenen Quellen, falschen Zahlen oder missverstandenen Angaben. Mitarbeiter müssen deshalb Quellen, Vollständigkeit und Plausibilität kontrollieren.

Bei rechtlichen, finanziellen oder personellen Folgen sollte zusätzlich eine fachliche Prüfung vorgesehen werden. Der NIST-Leitfaden zum Risikomanagement generativer KI bietet einen freiwillig nutzbaren Rahmen, um solche Risiken systematisch zu betrachten.

3. Datenschutz praktisch vermitteln

Eine gute Schulung beantwortet konkrete Fragen:

• Welche Daten darf der jeweilige Agent verarbeiten?
• Wo werden diese Daten verarbeitet?
• Welche Zugriffsrechte besitzt der Agent?
• Welche Dienste sind im Unternehmen freigegeben?

Als Grundregel sollten Mitarbeiter nur notwendige Daten verwenden. Personenbezogene und vertrauliche Informationen brauchen besondere Aufmerksamkeit. Eine Anleitung allein reicht je nach Einsatzkontext nicht aus, um die nötige KI-Kompetenz zu vermitteln. Die EU-Kommission erläutert Anforderungen an KI-Kompetenz ausführlicher.

4. Fehlerfälle üben

Bei unbekannten Quellen, widersprüchlichen Ergebnissen oder einer unerwarteten Aktion sollte der Mitarbeiter den Vorgang stoppen. Er sollte die Aktion nicht einfach wiederholen, sondern den Fehler dokumentieren und an die zuständige Stelle melden.

Für kritische Abläufe braucht es außerdem einen Ausweichweg ohne Agenten. Im Lieferantenbeispiel geht eine Anfrage mit ungewöhnlichen Zahlungsdaten an den Einkauf. Dort wird sie geprüft, bevor jemand sie weiterbearbeitet.

Was das für Needs bedeutet

Needs beschreibt sich als Agent OS für Unternehmen, in dem Menschen und KI-Agenten zusammenarbeiten. Deshalb braucht jedes Unternehmen neben der allgemeinen Schulung eine Einweisung in die eingesetzten Agenten und die eigenen Arbeitsabläufe.

Eine gute Schulung endet mit praktischen Übungen: Auftrag formulieren, Ergebnis prüfen, sensible Daten erkennen und einen Fehlerfall bearbeiten. Mehr über Needs erfahren.