llama.cppプロジェクトは、Vulkan高速アテンション（FA）のデキュー化パスに関する修正を含むビルドb10781をリリースしました。このアップデートは、`ne[3] == 1`の場合でもシェーダーが誤って`nb[3]`をチェックしていた問題を解決し、その結果キャッシュが満杯の場合にのみパスが起動するようになっていた不具合を修正します。

  • シングルストリームの場合はシェーダーが`nb[3]`を読み込まないため、`ne[3] == 1`のときに`nb[3]`のチェックをスキップします。
  • キャッシュビューがフルバッファのストライドを引き継いでいたロジックエラーを解決し、従来のチェックを`n_kv == kv_size`に簡素化します。
  • macOS（Apple SiliconおよびIntel）、iOS、Linux（CPU、Vulkan、ROCm、OpenVINO、SYCL）、Android、Windows（CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm）、openEuler向けのバイナリを提供します。

この修正により、Vulkan FAのデキュー化パスは推論中に正しく起動するようになり、満杯状態のキャッシュに限定されなくなりました。