llama.cpp 项目发布了构建版本 b10285,在 mtmd 模块中专门为 deepseek-ocr 模型引入了多行批处理支持。此更新允许系统在单个操作中交织处理 deepseek-ocr 行,而不是单独处理每一行。

  • mtmd 现在支持 deepseek-ocr 的多行批处理。
  • 实现方式是一次性交织处理 deepseek-ocr 行,而不是一行一行地处理。
  • 二进制文件适用于 macOS(Apple Silicon 和 Intel)、Linux(CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows(CPU、CUDA 12/13、Vulkan、OpenCL、OpenVINO、SYCL、HIP)和 openEuler。

此版本为需要新 deepseek-ocr 处理功能的用户提供了跨多个平台和硬件加速器的更新二进制文件。