llama.cpp プロジェクトはバージョン b10444 をリリースし、`--models-dir` フラグを介してマルチトークン予測 (MTP) アシスタントモデルのロードをサポートしました。このアップデートでは、プリセット内の MTP モデルに対する厳密なプレフィックスチェックが含まれ、eagle3 ドラフトタイプのサポートが削除されました。

  • common: --models-dir による MTP アシスタントモデルのロードをサポート
  • common: preset: 厳密なプレフィックスで MTP モデルをチェック
  • その他のドラフトタイプを処理
  • eagle3 を削除

リリースでは、macOS (Apple Silicon および Intel)、Linux (Ubuntu x64, arm64, s390x, Vulkan, OpenVINO, SYCL)、Android、Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm)、および openEuler 用のバイナリが提供されています。