أضاف مشروع ggml دعم التكميم Q2_0 لوحدة المعالجة المركزية (CPU)، تحديداً لتمكين استخدام نماذج Ternary Bonsai. يكمل هذا التحديث عائلة التكميم Q1_0 وQ2_0 وQ4_0 وQ8_0 داخل المكتبة.
- تدعم التنفيذ ARM NEON وتشمل تراجعاً عاماً للمعاملات القياسية (scalar).
- تتيح تشغيل نماذج Ternary Bonsai بحجم 1.7B و4B و8B على عتاد وحدة المعالجة المركزية.
- من المخطط تقديم خلفيات x86 وMetal وCUDA وVulkan في المستقبل.
يتيح هذا الإضافة للمستخدمين تشغيل نماذج Ternary Bonsai باستخدام تنسيق Q2_0 المدعوم حديثاً على وحدات معالجة مركزية متوافقة.