قام لوردنيل بنشر مجموعات تكميم GGUF لنموذج Tencent Hy3 ذو الـ 295B MoE ونموذج NVIDIA القادر على الصوت Nemotron-Labs-Audex-30B-A3B الهجين ذو الـ 30B MoE، مما يوفر بيانات معايرة كاملة ومقاييس قابلة للتكرار.
- تشمل كميات Hy3 كلًا من Q6_K (226 GiB) و Q4_K_M (167 GiB) و Q3_K_L (143 GiB) و IQ2_M (90 GiB)، مع قياس الجودة مقابل لوغيتات المرجع BF16 على WikiText-2.
- تقدم كميات Nemotron-Labs-Audex ملفات GGUF للنص فقط وملفات audiogen كاملة المفردات، بما في ذلك MXFP4_MOE لحجم ملف أصغر ومعدل نقل أعلى.
- تحتوي كل من المستودعين على رسوم بيانية وتحقق من الصحة وخطط التكميم وسجلات لكل تكميم لضمان إمكانية التكرار دون ادعاءات جودة ذاتية.
يوفر هذا الإصدار للمستخدمين خيارات شفافة وقائمة على البيانات لتشغيل هذه النماذج الكبيرة محليًا، بما في ذلك توصيات الأجهزة المحددة والقيود المعروفة مثل التراجع عن موتر.