media
r/LocalLLaMA
·
منذ 14 ساعة
Bonsai-8B ذو البت الواحد من PrismML يتفوق على IBM Granite في استدعاء الأدوات عبر وحدة المعالجة المركزية باستخدام القواعد النحوية
يكشف معيار أداء لموديل Bonsai-8B ذو البت الواحد من PrismML مقابل Granite من IBM وLLMs أخرى أن Bonsai-8B يحقق أعلى دقة في استدعاء الأدوات عند استخدام فك التشفير المقيد بالقواعد النحوية. يسلط الاختبار، الذي أُجري على وحدة المعالجة المركزية باستخدام llama.cpp، الضوء على الدور الحاسم لقيود الإخراج في تمكين النماذج الصغيرة والمُكمَّأة من العمل بفعالية لمهام الوكلاء.