Ein Langzeitgedächtnis hilft LLM-Agenten, Nutzer persönlich und zeitlich stimmig zu begleiten. Doch Aufnahme, Extraktion und Ordnung der Erinnerungen verlangen oft wiederholte Modellaufrufe, und das erhöht Kosten und Wartezeit. Laut einer Veröffentlichung auf arXiv (Rubrik cs.CL) setzt SLICE-Mem genau hier an.

Was ist SLICE-Mem?

SLICE-Mem ist ein leichtgewichtiges Gedächtnis-Framework für LLM-Agenten. Es verbindet zwei Ideen: eine Aufnahme, die sich an der Bedeutsamkeit (Salienz) einer Äußerung orientiert, und eine Extraktion, die um das Prädikat, also den Kern einer Aussage, herum aufgebaut ist.

Wie funktioniert SLICE-Mem?

Ein kompakter Klassifikator entscheidet, welche Nutzerbeiträge es wert sind, gespeichert zu werden. Ein Extraktor auf Basis semantischer Abhängigkeiten formt aus diesen Beiträgen knappe Gedächtniseinträge. Diese Online-Pipeline kommt ohne generative LLM-Aufrufe aus.

Der Abgleich zwischen mehreren Einträgen, etwa um Überschneidungen aufzulösen, wird in eine spätere Offline-Konsolidierung verlegt. So fällt die aufwendige Arbeit nicht während des laufenden Gesprächs an.

Was zeigen die Tests?

Getestet wurde auf dem Weekly-Teil von Memora und auf LongMemEval-S. Für Aufbau und Konsolidierung dienten Qwen-Modelle der Größen 8B und 30B. Als Vergleich nennen die Autoren MemOS, ein generatives Gedächtnissystem, jeweils in der Qwen3-30B-Konfiguration.

  • Memora Weekly: 46.60 gegenüber 46.68 FAMA (Forgetting-Aware Memory Accuracy).
  • LongMemEval-S: 56.8% gegenüber 59.3% Genauigkeit.
  • Der gesamte LLM-Tokenverbrauch sinkt um 92.4% bzw. 99.5%.

Mehr zum Thema:

Was bedeutet SLICE-Mem für Nutzer?

Die Ergebnisse deuten darauf hin, dass sich nützliche Hinweise für ein Langzeitgedächtnis mit deutlich weniger Modellaufrufen bewahren lassen. Für Teams, die Agenten betreiben, kann das geringere Kosten und kürzere Wartezeiten bedeuten.

Zugleich zeigt der Vergleich auf LongMemEval-S einen kleinen Rückstand bei der Genauigkeit. Wer ein solches Verfahren erwägt, sollte es daher an den eigenen Aufgaben prüfen, statt sich nur auf die Benchmark-Werte zu verlassen.