llama.cpp b10677 リリースは、Vulkan バックエンドにおける重大なバグに対処します。このバグでは、ビューエイリアスの依存関係が欠落していたため、グラフ最適化ノードの順序が誤って入れ替えられていました。

  • 修正により、`is_src_of` が1つのテンソルの2つのビューを依存関係として正しく扱い、貪欲デコーディングおよび推論デコーディング中のサイレントエラーを防ぎます。
  • NONE、RESHAPE、TRANSPOSE、VIEW、または PERMUTE などの演算を持つノードはエイリアス依存関係として扱われなくなり、最適化の自由度が回復しつつ正しさが損なわれることはありません。
  • コードはラムダパラメータを const にし、`is_src_of` で `is_empty` をキャプチャすることでコンパイル可能になり、非 const ポインタに関連する可視性の問題が解決されました。
  • この変更は、AMD および NVIDIA の Vulkan ハードウェア上で Qwen3.8 などのモデルにおける再帰状態の問題を特に修正しますが、CUDA は影響を受けません。

本リリースでは issue #27805 が解決され、CPU、GPU、および各種アクセラレータバックエンド向けに macOS、Linux、Windows、Android、openEuler のバイナリが提供されます。