Tencent는 원시 사용자 기록을 대화 에이전트 및 추천 시스템용 컴팩트한 표현으로 압축하는 통합 행동 압축 레이어인 KuaFu를 소개했습니다. 이 시스템은 2축 프로젝터를 사용하여 각 행동 항목을 너비 128-256의 2-4개 토큰으로 압축하여 수십억 사용자의 긴 시퀀스 처리 병목을 해결합니다.
KuaFu는 네 가지 프로파일링 작업에서 비압축 단일 작업 생산 모델과 동등하거나 이를 초과하며, GPU당 처리량을 37%-350% 증가시키고 190개의 GPU를 절약합니다. 공개 벤치마크에서 동일한 비율로 이전 압축기보다 우수하며, 4B 모델이 RecBench에서 8B 대응 모델을 능가했습니다.
Tencent의 광고 및 추천 플랫폼에서 10개월간 운영된 후 KuaFu는 전체 GMV를 1.37% 향상시켰습니다.