llama.cpp b10057 が SYCL Q5_K カーネルを修正しバイナリをリリース

llama.cpp プロジェクトはバージョン b10057 をリリースしました。これには複数のプラットフォーム向けの標準的なバイナリ配布とともに、SYCL バックエンドのいくつかのバグ修正が含まれています。

• SYCL で K_QUANTS_PER_ITERATION が 1 の場合の行計算の誤りを修正。
• 並べ替えられていない Q5_K カーネルを更新し、K_QUANTS_PER_ITERATION を使用するように変更。
• 並べ替えられた q5_k カーネルに欠けていた後半部分の処理を追加。
• SYCL コード内の潜在的な off-by-one エラーと行 > nrows のチェック不足を解決。

このリリースでは、macOS、Linux、Windows、Android、iOS 用の更新されたバイナリが提供され、CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL を含むさまざまなハードウェアバックエンドをサポートしています。