يُقدم إصدار llama.cpp b9667 دعم Vulkan مع S_v=16 عبر gated_delta_net. يتضمن ملفات تنفيذية لأنظمة macOS وLinux وAndroid وWindows وopenEuler عبر بنية متعددة، مع خيارات لـ Vulkan وCUDA 12.4 و13.3 وROCm وOpenVINO وSYCL.
تنفذ نسخة llama.cpp b9668 مخازن ذاكرة UMA مرئية للمضيف لأداء أفضل على أجهزة UMA، بناءً على اقتراح من 0cc4m. يتضمن الإصدار ثنائيات لأنظمة macOS وLinux وAndroid وWindows وopenEuler، ويدعم CPU وVulkan وROCm وOpenVINO وSYCL وHIP، مع حزمة واجهة مستخدم مخصصة.
يقدم إصدار llama.cpp b9665 علماً جديداً هو --offline للمعايرة. تتضمن الإصدارات المبنية مسبقاً لأنظمة macOS وLinux وAndroid وWindows وopenEuler عبر بنية متعددة وخيارات تسريع الأجهزة، بما في ذلك Vulkan وCUDA وROCm وOpenVINO وSYCL.
يضيف إصدار LLaMA.cpp b9663 دعمًا لـ OP EXPM1 وجميع حالات الاختبار الوحدة لـ FLOOR وTRUNC وROUND. يتضمن ثنائيات محدثة لأنظمة macOS وLinux وAndroid وWindows وopenEuler، مع دعم لـ SYCL (FP32 وFP16) وVulkan وCUDA 12.4 و13.3 وROCm 7.2، بالإضافة إلى واجهة مستخدم محدثة.
يوسع تحديث sycl الدعم لمعالجة موترات الخبراء المعاد ترتيبها في MUL_MAT_ID الخاص بـ MoE ليشمل Q4_K وQ5_K وQ6_K. الحالات غير المدعومة لإعادة الترتيب ثلاثية الأبعاد الآن تتحول إلى fallback بدلاً من abort.
تضيف إصدار llama.cpp b9661 دعم GGML_OP_COL2IM_1D لـ Vulkan، باستخدام حلقة تجمع محدودة بدلاً من المسح الكامل-K مع باقي القسمة. تُرجع nullptr للأنواع غير المدعومة وتشمل عمليات البناء لأنظمة macOS وLinux وAndroid وWindows وopenEuler عبر CPU وVulkan وCUDA وSYCL.