llama.cpp b9937リリースは、CUDAバックエンドのsnake融合マッチャーにおける重大なバグを修正します。以前の処理系では、演算子の型が正確に一致することを要求しており、F16/BF16チェーンが単純なパスにフォールバックしたり、データを誤って読み込んだりしていました。
- snake融合の型述語を修正し、`a`と`inv_b`をF32として扱い、CPUおよびMetalバックエンドと整合させます。
- 線形カーネルの読み込みによる静かなるメモリ破損を防ぐため、非連続な演算子に対するsnake融合を拒否します。
- このリリースではmacOS Apple SiliconのKleidiAIサポートを無効にしています。
これらの変更により、混合精度チェーンでの正しい動作が保証され、非連続なビューを使用する際のデータエラーが防止されます。