llama.cpp b9937 版本解决了 CUDA 后端中 snake 融合匹配器的一个关键错误。之前的实现错误地要求操作数类型完全匹配,导致 F16/BF16 链回退到朴素路径或错误读取数据。
- 修复了 snake 融合的类型谓词,使 `a` 和 `inv_b` 被视为 F32,与 CPU 和 Metal 后端保持一致。
- 拒绝在非连续操作数上进行 snake 融合,以防止线性内核读取导致的静默内存损坏。
- 在此版本中禁用了 macOS Apple Silicon 的 KleidiAI 支持。
这些更改确保了混合精度链的正确行为,并在使用非连续视图时防止数据错误。