أطلقت فريق PrismML نموذج Bonsai 27B، وهو نموذج لغوي كبير مصمم للعمل محلياً داخل متصفح الويب باستخدام نوى WebGPU مخصصة. يستخدم النموذج التكميم ببت واحد لتقليل بصمته على الذاكرة بشكل كبير مع الحفاظ على أداء عالٍ.
- يؤدي التكميم ببت واحد إلى تصغير حجم النموذج من 54 جيجابايت إلى 3.8 جيجابايت فقط، أي بنسبة انخفاض تبلغ 93%.
- على الرغم من الضغط الشديد، يحتفظ النموذج بـ 90% من ذكائه الأصلي.
- مجموعة من نقاط التفتيش متاحة على Hugging Face تحت منظمة PrismML.
- عرض تجريبي تفاعلي يستخدم نوى WebGPU مستضاف على Hugging Face Spaces.
يتيح هذا الإصدار للمستخدمين تشغيل نموذج كثيف واسع النطاق مباشرة في متصفحاتهم دون الحاجة إلى عتاد محلي عالي الأداء.