أطلقت PrismML نموذج Bonsai 27B الجديد الذي يطبق منهجية Ternary/BitNet على Qwen3.6 27B. يسمح هذا النهج للنموذج بالعمل بدقة قريبة من fp16 مع استهلاك حوالي 10 جيجابايت فقط من الذاكرة على شريحة M4 Pro.
- يستخدم النموذج تنسيق GGUF ثلاثي، مما يتطلب fork محددًا لـ llama.cpp للاستدلال.
- يدعم نافذة سياق بحجم 256K وقدرات إدخال متعددة الوسائط.
- تشير النتائج إلى أداء يتفوق على الكمية التقليدية 2-3bit لنماذج Qwen3.6 27B.
- يتضمن الإصدار forkًا لـ MLX alongside التنفيذ الرئيسي لـ GGUF.
يجعل هذا الإصدار تشغيل نموذج عالي الفائدة بحجم 27B على الجهاز عمليًا لأجهزة الكمبيوتر المحمولة والمكتبية ذات ذاكرة VRAM المحدودة، مما يعالج القيود السابقة على النشر المحلي.