llama.cpp 项目发布了构建版本 b10093,其中包括支持 DeepSeek v4 模型的具体更新。该版本解决了模板处理问题,并为该模型系列引入了新的配置标志。
- 修复了 DeepSeek v4 的定制模板,以明确遵循参考行为。
- 添加了对 DeepSeek v4 `drop_reasoning` 标志的支持。
- 将 DeepSeek 3.2 解析器挂钩,使其也能处理 DeepSeek v4 输入。
- 包含对工具结果重新排序的修复。
此更新确保了 llama.cpp 中 DeepSeek v4 模型的正确聊天格式和推理令牌处理。