llama.cpp प्रोजेक्ट ने MUSA (MTT S5000) ऑपरेटर विफलताओं और बिल्ड समस्याओं के लिए एक सुधार जारी किया है, जो विशेष रूप से PH1 आर्किटेक्चर को लक्षित करता है। यह अपडेट महत्वपूर्ण बग्स को हल करता है जिसने इस हार्डवेयर पर गलत परिणाम या टाइमआउट का कारण बना था।
- sm_70+ टारगेट के लिए 16-बाइट कॉपी चौड़ाई व्युत्पत्ति को ठीक करके FlashAttention प्रदर्शन में सुधार किया।
- MUSA पर CUB पथ सक्षम किए, ARGSORT और TOP_K ऑपरेशन्स पर सीमाएं हटाईं।
- cuBLAS/dequant पथ पर स्विच करके क्वांटाइज्ड मैटमुल विफलताओं का कारण बनने वाले MMQ दोषों को ठीक किया।
- सभी warps के लिए ब्लॉक बैरियर्स को पहुँच योग्य बनाकर fused TOPK_MOE kernel हैंग्स को ठीक किया।
- GATED_DELTA_NET ऑपरेटर समर्थन सक्षम किया, जिससे प्रीफिल और डिकोड थ्रूपुट में काफी सुधार हुआ।
ये बदलाव Qwen3.8-27B जैसे मॉडल चला रहे MTT S5000 उपयोगकर्ताओं के लिए पूर्ण कार्यक्षमता को पुनर्स्थापित करते हैं और प्रदर्शन में सुधार करते हैं।