llama.cpp プロジェクトは、MUSA (MTT S5000) の演算子失敗およびビルド問題に対する修正をリリースしました。これは PH1 アーキテクチャを対象としています。このアップデートは、このハードウェアで誤った結果やタイムアウトを引き起こしていた重大なバグを解決します。
- sm_70+ ターゲット向けの 16 バイトコピー幅の導出を修正し、FlashAttention のパフォーマンスを修正。
- MUSA で CUB パスを有効化し、ARGSORT および TOP_K 演算の制限を解除。
- cuBLAS/dequant パスに切り替えることで、量子化行列乗算の失敗を引き起こしていた MMQ の欠陥を解決。
- すべてのワープに対してブロックバリアが到達可能であることを保証することで、fused TOPK_MOE カーネルのハングを修正。
- GATED_DELTA_NET 演算子のサポートを有効化し、プリフィルおよびデコードのスループットを大幅に改善。
これらの変更により、Qwen3.8-27B などのモデルを実行する MTT S5000 ユーザーの完全な機能性とパフォーマンスが回復・向上します。