लेख इस बात का निदान करता है कि H2O जैसे ध्यान-आधारित KV कैश एविकशन विधि स्कीमा-घने इनपुट (जैसे नेस्टेड JSON) पर शोर को असमान रूप से बनाए रखती है, जहाँ संरचनात्मक टोकन सामग्री टोकन की तुलना में काफी अधिक ऊर्जा वहन करते हैं। KEY टोकन के VALUE टोकन के सापेक्ष अत्यधिक संरक्षण के कारण, यह पूर्वाग्रह 5% बजट पर सटीक-मैच सटीकता को 88% से 0% तक गिरा देता है।
- संरचनात्मक KEY टोकन उत्तर वहन करने वाले VALUE टोकन की तुलना में लगभग 1.8x दर पर संरक्षित होते हैं, जो सिग्नल-टू-नॉइस अनुपात को खराब करने वाला एक गैर-स्थिर फ़िल्टर के रूप में कार्य करते हैं।
- KEY टोकन को दबाने को इस विशिष्ट पूर्वाग्रह के लिए सबसे प्रभावी तैनात करने योग्य फ़िल्टर के रूप में पहचाना गया है।
- SnapKV की विंडो स्कोर के ऊपर एक पुनः प्रशिक्षण-मुक्त, भूमिका-संवेदी आवंटन विधि 20% से कम बजट पर H2O अंतर का 63-98% को बंद करती है।
- उच्चतर बजट पर, प्रस्तावित विधि छोटे डीनॉइज़िंग प्रभाव के साथ पूर्ण-कैश सटीकता को हल्के से मेल खाती या अधिक होती है।
- एक 15 MB रैखिक भूमिका प्रोब नगण्य इनफरेंस लागत पर ये लेबल आपूर्ति करता है, हालाँकि पार्सर-स्तर की डाउनस्ट्रीम सटीकता को मेल देना अभी भी एक खुला चुनौती है।