يقدم طلب السحب المقدم إلى مستودع ggml-org/llama.cpp دعمًا لنموذج Hy3 الخاص بـ Tencent، وتحديداً المتغير hy_v3. يتيح هذا التحديث استخدام رأس التنبؤ متعدد الرموز للنموذج كهدف لفك التشفير التخميني draft-mtp.
- يضيف دعمًا لـ Hy3 من Tencent (hy_v3 / HYV3ForCausalLM)، وهو نموذج MoE بحجم 299B يتكون من 80 طبقة بالإضافة إلى طبقة MTP واحدة.
- يطبق رأس التنبؤ متعدد الرموز ليعمل كهدف لفك التشفير التخميني draft-mtp داخل llama.cpp.