github llama.cpp · 刚刚 · inference

llama.cpp b10676 修复了 ggml 和 Metal 中多个批次的 conv_transpose_2d

译自 English → 中文

llama.cpp b10676 版本修正了 `conv_transpose_2d` 中的错误，该错误导致仅计算了第一个批次，而后续批次保持为零。此修复适用于核心 ggml 库和 Metal 后端实现。

这确保了 CPU 和 GPU 后端的多批次卷积结果正确。

重要性 1/3 可信度 1/3 llama.cpp Hugging Face Inference efficiency

llama.cpp 项目发布了构建版本 b10673，其中包含针对 Apple M4 硬件的特定性能优化。此更新在 ggml-metal-tuning 模块中引入了 fa_vec_tuned_table 记录，以提升 Metal 后端的效率。

llama.cpp 项目发布了版本 b10670，其中包括针对 Intel Xe2 架构的特定优化。该更新将量化键值 (KV) 解码操作专门路由到 BMG 硬件的 TILE 后端，同时在其他架构验证之前继续使用 VEC 后端。

llama.cpp 项目发布了构建版本 b10672，将 OpenVINO 后端更新至 2026.3.1 版本，并增加了对 NPU 上 Whisper.cpp 模型的支持。

llama.cpp 项目已为 Apple M3 Max、M5 和 M5 Pro GPU 添加了快速注意力向量 (fa-vec) 调优记录，以改进 Metal 性能。

llama.cpp 项目发布了构建版本 b10665，引入了对 Nemotron3.5 模型的 DSpark 支持。