llama.cpp プロジェクトはバージョン b10922 をリリースし、A8 Q4_K non-MoE 行列乗算用の新しい OpenCL バイナリカーネルを導入しました。このアップデートには、レイアウトの互換性の修正とコードベース内のバイナリカーネル選択ヘルパーの名前変更も含まれています。

  • `kernel_gemm_noshuffle_q4_k_f32_32b_trans_ila_a8_bin` OpenCL カーネルを追加。
  • OpenCL バックエンドのレイアウト互換性の問題を修正。
  • 明確さのためにバイナリカーネル選択ヘルパーの名前を変更。

このリリースでは、CPU、CUDA、Vulkan、ROCm、SYCL を含むさまざまなハードウェアバックエンド向けに、macOS、Linux、Windows、Android、iOS の更新されたバイナリが提供されています。