llama.cpp プロジェクトは、プロンプトバッチを分割する際に min-step パラメータを尊重する修正を含むバージョン b9936 をリリースしました。

  • macOS Apple Silicon および Intel バイナリが利用可能で、Apple Silicon では KleidiAI サポートが無効になっています。
  • Linux ビルドには、CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL バックエンド向けの Ubuntu x64、arm64、s390x アーキテクチャが含まれます。
  • Android arm64 (CPU) バイナリが提供されています。
  • Windows ビルドは x64 および arm64 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP をサポートしています。
  • openEuler サポートはメインブランチでは無効ですが、310p や 910b ACL Graph などの特定のハードウェア構成では利用可能です。
  • スタンドアロンの UI バイナリもリリースに含まれています。