أطلقت PrismML نموذج Bonsai 27B، وهو ضغط منخفض البت لنموذج Qwen3.6-27B يتيح تشغيل النماذج متعددة الوسائط الكبيرة على أجهزة الكمبيوتر المحمولة والهواتف دون إعادة تدريب.
- يستخدم Bonsai 27B الثلاثي القيم أوزاناً ثلاثية القيم بمعدل 1.71 بت لكل وزن، بحجم 5.9 جيجابايت، مع الحفاظ على 94.6% من دقة الأساس FP16.
- يستخدم Bonsai 27B أحادي البت أوزاناً ثنائية القيم بمعدل 1.125 بت لكل وزن، بحجم 3.9 جيجابايت، مع الحفاظ على 89.5% من دقة الأساس FP16.
- يظل الهيكل المعماري دون تغيير مقارنة بـ Qwen3.6-27B، مع الاحتفاظ بمعلمات التطبيع والمقياس فقط بدقة أعلى.
- يدعم كلا المتغيرين نافذة سياق بطول 262 ألف رمز (token)، ومتاحان بموجب رخصة Apache 2.0 لـ llama.cpp و MLX.
تعالج الإصدار القيود المتعلقة بالذاكرة على الأجهزة الطرفية، مما يتيح الخدمة عبر بطاقة GPU واحدة على بطاقات بسعة 24 جيجابايت والاستدلال المحلي على العتاد المحمول مع الحفاظ على الأداء العملي.