Tencent ने KuaFu पेश किया, एक एकीकृत व्यवहार-संपीड़न परत जो कच्चे उपयोगकर्ता इतिहास को संवादात्मक एजेंट्स और सिफारिशकर्ताओं के लिए संपीड़ित निरूपण में बदल देती है। सिस्टम प्रत्येक व्यवधान आइटम को 128-256 चौड़ाई के 2-4 टोकन में संपीड़ित करने के लिए दो-अक्ष प्रोजेक्टर का उपयोग करता है, एक अरब उपयोगकर्ताओं के लिए लंबी अनुक्रमों के प्रसंस्करण में बाधाओं को दूर करता है।
KuaFu चार प्रोफाइलिंग कार्यों में अनसंपीड़ित एकल-कार्य उत्पादन मॉडलों के बराबर या उससे अधिक है, जबकि प्रति-GPU थ्रूपुट को 37%-350% बढ़ाता है और 190 GPUs बचाता है। सार्वजनिक बेंचमार्क पर, यह समान अनुपात पर पूर्व संपीड़कों को हराता है, जिसमें 4B मॉडल ने RecBench पर 8B के साथी को पछाड़ा।
Tencent की विज्ञापन और सिफारिश प्लेटफ़ॉर्म पर दस महीने चलने के बाद, KuaFu ने कुल GMV को 1.37% बढ़ा दिया।