يستبعد llama.cpp b10034 شريحة Adreno A7x من نوى MoE لمنع تلف الأوزان

يعالج إصدار llama.cpp b10034 مشكلة حرجة حيث تقوم برامج التحويل البرمجي (compilers) لأجهزة Adreno A7x بتحويل برمجي خاطئ (miscompile) لنوى إعادة التجميع (repack kernels)، مما يؤدي إلى تلف الأوزان وإخراج عشوائي في نماذج Mixture of Experts (MoE). ولحل هذه المشكلة، يستبعد التحديث أجهزة Adreno A7x من استخدام نوى MoE المحددة هذه.

• يستبعد Adreno A7x من استخدام نوى MoE الخاصة بـ Adreno بسبب مشاكل التحويل البرمجي الخاطئ.
• يستبعد أيضًا وحدات معالجة الرسومات (GPUs) من سلسلة A6x وAdreno غير المعروفة من إعادة تجميع أوزان MoE لضمان الاستقرار.
• يعطل دعم KleidiAI لتركيبات macOS على معالجات Apple Silicon.
• يوفر ملفات قابلة للتنفيذ (binaries) لأنظمة macOS (Apple Silicon وIntel)، وLinux (CPU، Vulkan، ROCm، OpenVINO، SYCL)، وAndroid، وWindows (CPU، CUDA 12/13، Vulkan، OpenVINO، SYCL، HIP)، وopenEuler.

يمنع هذا التغيير تلف مخرجات النموذج على الأجهزة المتأثرة من سلسلة Adreno، مما يضمن استنتاجًا موثوقًا للمستخدمين الذين يمتلكون هذه وحدات معالجة الرسومات.