llama.cpp 项目发布了构建版本 b10754，其中包含针对 Adreno GPU 上 OpenCL 的关键修复，以防止图像处理内核中的越界内存读取。
- q4_K 解码 GEMV 的行获取现在在填充的 x 网格上进行钳位。
- 图像 KQ/KQV GEMM 的分块契约得到严格执行。
- 图像 KQ/KQV 的拆分逻辑在分发时确定，而不是依赖于步幅 (strides)。
此更新确保了在使用 Adreno 硬件和 OpenCL 加速运行 llama.cpp 时的稳定性和正确性。
github
llama.cpp
·
13 小时前
·
inference
llama.cpp b10754 修复了 Adreno 图像内核中 OpenCL 的越界读取
译自 English → 中文
相关文章
github
llama.cpp
·
刚刚
实时
llama.cpp b10766 增加对 DeepSeek 4 视觉支持
llama.cpp 项目发布了构建版本 b10766，其中包括对 DeepSeek 4 模型输入视觉的正确支持修复。
github
llama.cpp
·
1 小时前
·
1 次浏览
实时
llama.cpp b10762 增加对 DeepSeek-V4-Flash-Vision-Exp 的支持
llama.cpp 项目发布了构建版本 b10762，引入了对 DeepSeek-V4-Flash-Vision-Exp 模型的支持。此更新还包括通过命令行界面处理最小和最大 token 数量。
github
llama.cpp
·
1 小时前
·
1 次浏览
实时
llama.cpp b10763 默认启用 preserve_reasoning
llama.cpp 项目发布了构建版本 b10763，该版本更改了 `preserve_reasoning` 聊天模板关键字参数的默认行为。服务器现在会记录此 kwarg 的有效状态，并在支持的模板中默认启用时发出警告。
github
llama.cpp
·
8 小时前
·
1 次浏览
llama.cpp b10760 修复 Qwen3-tts-0.6b 推理稳定性
llama.cpp 项目发布了构建版本 b10760，其中包括针对 Qwen3-tts-0.6B 模型的具体修复，以防止推理期间的数值不稳定。
github
llama.cpp
·
9 小时前
·
1 次浏览
llama.cpp b10758 为 Hexagon 添加 MUL_MAT 和 MUL_MAT_ID 融合
llama.cpp 项目发布了构建版本 b10758，引入了针对 Hexagon DSP 的 MUL_MAT 和 MUL_MAT_ID 融合功能。此次更新还包括多项修复，以改善 Qualcomm 硬件上的稳定性和性能。