llama.cpp プロジェクトはビルド b10712 をリリースし、1024 以上の k 値をサポートするように設計された Vulkan 用の新しい top-k radix sort シェーダーを導入しました。このアップデートは Qwen 3.8 Flash Next モデルを特にターゲットとしており、対応するテストおよび top-k qsa フュージョンを含みます。

  • Vulkan バックエンドに k >= 1024 用の top-k radix sort シェーダーを追加。
  • 新しい機能を検証するための Qwen 3.8 Flash Next top-k テストを含める。
  • top-k qsa フュージョンを実装し、コードのクリーンアップを実施。

このリリースでは、CPU、GPU(CUDA、ROCm、OpenCL、SYCL)、および AI 専用バックエンド(OpenVINO、KleidiAI)に対応する macOS、Linux、Windows、Android、iOS 用のバイナリが提供されています。