llama.cpp プロジェクトはビルド b10285 をリリースし、mtmd モジュールに deepseek-ocr モデル専用のマルチロウバッチングのサポートを導入しました。このアップデートにより、システムは個別に処理するのではなく、単一の操作で deepseek-ocr の行を織り込むことができます。

  • mtmd は now deepseek-ocr のマルチロウバッチングをサポートしています。
  • 実装では、各行ごとにではなく、一度に深seek-ocr の行を織り込みます。
  • バイナリは macOS (Apple Silicon および Intel)、Linux (CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows (CPU、CUDA 12/13、Vulkan、OpenCL、OpenVINO、SYCL、HIP)、および openEuler で利用可能です。

このリリースは、新しい deepseek-ocr 処理機能が必要なユーザー向けに、複数のプラットフォームとハードウェアアクセラレータにわたって更新されたバイナリを提供します。