llama.cpp プロジェクトはビルド b10712 をリリースし、1024 以上の k 値をサポートするように設計された Vulkan 用の新しい top-k radix sort シェーダーを導入しました。このアップデートは Qwen 3.8 Flash Next モデルを特にターゲットとしており、対応するテストおよび top-k qsa フュージョンを含みます。
- Vulkan バックエンドに k >= 1024 用の top-k radix sort シェーダーを追加。
- 新しい機能を検証するための Qwen 3.8 Flash Next top-k テストを含める。
- top-k qsa フュージョンを実装し、コードのクリーンアップを実施。
このリリースでは、CPU、GPU(CUDA、ROCm、OpenCL、SYCL)、および AI 専用バックエンド(OpenVINO、KleidiAI)に対応する macOS、Linux、Windows、Android、iOS 用のバイナリが提供されています。