llama.cppプロジェクトはバージョンb9980をリリースしました。これには、マルチモーダルモデルの検出に関するサーバーコンポーネントの修正が含まれています。

`--no-mmproj-auto`フラグを使用してマルチモーダル投影を明示的に無効にすると、サーバーは `/v1/models` エンドポイントで画像または音声入力をサポートされているモダリティとして宣言しなくなります。

  • macOS Apple SiliconおよびIntelビルドが利用可能ですが、KleidiAIサポートは無効のままです。
  • Linuxバイナリには、x64、arm64、s390xアーキテクチャ向けのCPU、Vulkan、ROCm 7.2、OpenVINO、SYCLバリアントが含まれます。
  • Windowsのアップデートでは、既存のCUDA 12、OpenCL Adreno、Vulkan、OpenVINO、SYCL、HIPオプションに加え、新しいCUDA 13サポートが追加されました。
  • このリリースでは、Android arm64 CPUビルドとスタンドアロンUIも提供されています。