Kontextfenster vs. Gedächtnis: Was ist der Unterschied?

Kurz vor einem Abstimmungstermin ändert ein Kunde seine Anforderungen. Der Projektleiter bittet einen KI-Agenten, die Folgen zusammenzufassen. Dafür braucht der Agent das aktuelle Protokoll, die letzten Nachrichten und die neue Anfrage.

Der vereinbarte Liefertermin, eine frühere Kundenentscheidung und die gewünschte Berichtsstruktur sind ebenfalls relevant. Sie müssen aber nicht jedes Mal im vollständigen Gespräch stehen.

Das Kontextfenster ist der kurzfristige Arbeitsbereich des Modells. Das Gedächtnis speichert Informationen über einzelne Anfragen oder Sitzungen hinaus und stellt sie später bei Bedarf wieder bereit.

Was ist das Kontextfenster?

Das Kontextfenster enthält alles, was ein Modell für eine konkrete Antwort berücksichtigen kann. Dazu gehören zum Beispiel:

• aktuelle Anweisungen und Nachrichten
• Teile des Gesprächsverlaufs
• Dokumente
• Suchergebnisse
• Rückmeldungen von Werkzeugen

Die Dokumentation von Anthropic beschreibt das Kontextfenster als begrenzt. Bei langen Gesprächen können Inhalte gekürzt, zusammengefasst oder neu geladen werden; andernfalls kann das Kontextfenster überschritten werden.

Ein großes Kontextfenster erlaubt, mehr Material gleichzeitig zu verarbeiten. Es ersetzt aber kein dauerhaftes Wissen. Außerdem können wichtige Hinweise in einem langen Verlauf untergehen, obwohl sie technisch noch enthalten sind.

Was bedeutet Gedächtnis bei KI-Agenten?

Gedächtnis ist eine Funktion des Gesamtsystems, keine automatische Eigenschaft jedes Sprachmodells. Informationen können außerhalb des laufenden Modellaufrufs gespeichert werden, etwa in einer Datenbank oder einem Wissensspeicher. Bei einer neuen Aufgabe sucht das System passende Einträge und stellt sie dem Modell wieder als Kontext bereit.

Gespeichert werden können beispielsweise Entscheidungen, Fakten, Präferenzen oder frühere Arbeitsschritte. Diese Informationen können zusätzlich im Gedächtnis gespeichert und später abgerufen werden. Dafür braucht es klare Regeln: Was wird gespeichert, aktualisiert oder gelöscht? Und welche Einträge passen zur aktuellen Aufgabe?

LangChain unterscheidet zwischen sitzungsbezogenem Kurzzeitgedächtnis und sitzungsübergreifendem Langzeitgedächtnis. Auch eine außerhalb des Modells erstellte Zusammenfassung bleibt für die nächste Anfrage zunächst Kontext.

Wie beides im Kundenprojekt zusammenspielt

Nehmen wir ein fortgesetztes Kundenprojekt bei einem Maschinenbauer an. Im Kontextfenster stehen die aktuelle Bitte, das jüngste Protokoll und die Ergebnisse einer Dokumentensuche. Aus dem Gedächtnis ruft der Agent zusätzlich den Liefertermin, die frühere Entscheidung und die gewünschte Berichtsstruktur ab.

Nach dem Termin kann eine bestätigte neue Entscheidung dauerhaft gespeichert werden. Beim nächsten Gespräch muss das Team den gesamten Verlauf daher nicht erneut zusammensuchen.

Ein KI-Agent kann – sofern Werkzeuge und Berechtigungen vorhanden sind – Informationen nutzen und Aufgaben selbstständig ausführen. Dafür können sie mehrere Modellaufrufe und Werkzeuge einsetzen, wie OpenAI beschreibt. Welche Aktionen erlaubt sind und wann eine ausdrückliche Entscheidung nötig ist, hängt von der jeweiligen Konfiguration ab.

Was bedeutet das für Needs?

Needs beschreibt sich als Agent OS, in dem Wissen zum gemeinsamen Firmenwissen wird. Damit geht es um eine dauerhafte Wissensgrundlage für die Zusammenarbeit von Mitarbeitern und KI-Agenten, zusätzlich zum jeweils aktuellen Kontext.

Wenn ihr prüfen möchtet, wie ein gemeinsames Agententeam zu euren Arbeitsabläufen passt, findet ihr weitere Informationen auf needs.expert.