أضاف مشروع llama.cpp الدعم لهيكل نموذج Tencent Hunyuan 3 (HYV3ForCausalLM)، المحدد كـ hy_v3 في تنسيق GGUF. يتيح هذا التحديث للمستخدمين تشغيل هذه المجموعة الخاصة من فك التشفير MoE داخل المكتبة.
- يضيف دعمًا كاملاً لهيكلية hy_v3، بما في ذلك RMSNorm لكل رأس لـ Q/K وموجّه سيجمويد مع تحيز اختيار الخبير.
- يطبق خبيرًا مشتركًا نشطًا دائمًا وغير مقفل (ungated) وكتل كثيفة رئيسية عبر first_k_dense_replace.
- تم نقله من fork الخاص بـ charlie12345 وتعديله ليتوافق مع واجهات برمجة التطبيقات الرئيسية الحالية للتوافق مع ملفات GGUF الخاصة بـ hy_v3 الموجودة.
يتيح هذا التغيير للمجتمع استخدام نماذج Tencent Hunyuan 3 على منصات متنوعة، بما في ذلك macOS وLinux وWindows وAndroid، عبر خلفيات عتادية متنوعة مثل CUDA وROCm وVulkan.