يُظهر ntrillard أن تكميم طيف السعة (magnitude) للقيم في ذاكرة التخزين المؤقت لـ K و V إلى 4 بت مع الحفاظ على الطور بدقة كاملة يحقق تطابقاً بنسبة 96.9% للرموز مقارنةً بالإشارة المرجعية fp16 على نموذج Gemma-3-1B، مما يمثل تحسناً بنسبة 5-10 أضعاف مقارنة بالتكميم القياسي بأقصى وأدنى قيمة.
- ينتج عن Fmag4 (سعة بـ 4 بت + طور بدقة كاملة) تطابق بنسبة 96.9% للرموز وتوفيراً في الذاكرة بنسبة 62% مقارنةً بـ bf16.
- يحقق التكميم القياسي بـ 4 بت تطابقاً بنسبة 54.9% فقط للرموز على نفس المطالبات.
- تضاعف هذه الطريقة الحد الأقصى لطول السياق من 68K إلى 137K لنموذج Qwen2.5-7B على بطاقة GPU بسعة 10GB دون زيادة الميزانية الإجمالية للذاكرة.
- تم تحديد الطور كحامل أساسي للمعلومات الهيكلية، بينما يكون طيف السعة سلساً وقابلاً للانضغاط.
يتيح هذا النهج للمستخدمين تمديد نوافذ السياق بشكل كبير ضمن قيود الأجهزة الثابتة من خلال الاستفادة من التحويل التوافقي لتخزين ذاكرة التخزين المؤقت لـ KV بكفاءة أعلى.