लेखकों ने TF-Engram प्रस्तुत किया, एक ट्रेन-फ्री Engram सिस्टम जो बाह्य कॉर्परा से ऑफलाइन फ़्रेज़-विशिष्ट सेमांटिक मेमोरी बनाता है और GPU-DRAM-SSD हियरार्की में बड़ी मेमोरी टेबल्स को स्टोर करता है। यह ऑटोरेग्रेसिव डिकोडिंग के दौरान बाह्य-मेमोरी लेटेंसी को छिपाने के लिए Early-Exit Guided Predictive Prefetching का उपयोग करता है।
Qwen3-0.6B पर, TF-Engram औसत डाउनस्ट्रीम स्कोर को 57.6 से 59.4 तक बढ़ाता है, जो फ्रोजन बैकबोन और पैरामीटर-मैच्ड LoRA बेलाइन दोनों को हराता है।
ये परिणाम दिखाते हैं कि स्थिर फ़्रेज़ मेमोरी को LLM इनफेरेन्स में एक स्केलेबल, ट्रेन-फ्री और लो-ओवरहेड सिस्टम कंपोनेंट के रूप में एकीकृत किया जा सकता है।