शोधकर्ताओं ने क्लिफकंपैक्शन पेश किया, एक ऑटोकंपैक्शन तकनीक जो लाखों टोकन संभालने वाले एजेंट्स के लिए डिज़ाइन की गई है, जो सीमित संदर्भ में खर्चों को 50% तक कम करती है। विधि टर्मिनल-बेंच पर प्रदर्शन बनाए रखती या सुधारती है और पुनः वर्णन करने के बजाय जानकारी को सटीक रखकर कर्नेलबेंच पर शीर्ष स्तर का परिणाम प्राप्त करती है।
- टर्मिनल-बेंच पर दो पूर्ण-संदर्भ रनों की लागत से कम में क्लिफकंपैक्शन 10 प्रतिशत अंक से अधिक जोड़ता है।
- समानांतर टेस्ट-टाइम स्केलिंग के तहत, यह किमी K2.6 को ओपस 4.7 के बराबर और ओपस 4.6 व जीपीटी-5.3 कोडेक्स से कम लागत में बेहतर बनाता है।
- तकनीक संदर्भ विचलन को रोकती है, कभी भी एक संपीड़न का संपीड़न नहीं करती, केवल मूल सामग्री पर काम करती है और पूर्व आउटपुट को फेंक देती है।
- कर्नेलबेंच पर, यह 200 चरणों के बाद $2.23 imes$ और 400 चरणों के बाद $3.58 imes$ सीयूडीएए कर्नेल गति वृद्धि प्राप्त करता है।
- एक स्केफोल्ड-अज्ञेय एपीआई-प्रॉक्सी कार्यान्वयन क्लॉड कोड, कोडेक्स और अन्य हार्नेस के साथ उपयोग के लिए ओपन-सोर्स किया गया है।
क्लिफकंपैक्शन टेस्ट-टाइम स्केलिंग के प्रदर्शन-लागत व्यापार को अधिक कुशल बनाता है और एक मिलियन टोकन से अधिक सत्रों पर निरंतर सीखने को बनाए रखता है।