llama.cppプロジェクトはバージョンb10094をリリースし、ドラフトリポジトリのサイドカーからスペキュラティブデコーディングタイプを自動的に検出する機能を導入しました。以前は、mtp-、dflash-、またはeagle3-のサイドカーを含むリポジトリを指すために`-hfd`フラグを使用し、`--spec-type`を明示的に指定しなかった場合、システムはドラフトをフルモデルとして誤って解決していました。
この更新により、スペキュラティブタイプが指定されていない場合、llama-serverはドラフトリポジトリで利用可能なサイドカーを検出し、mtp、dflash、eagle3の優先順位に基づいて最初のものを選択します。これにより、ユーザーは追加フラグなしで`llama-server -hf repo:Q3_K_M -hfd repo:Q8_0`のようなコマンドを実行できます。明示的な`--spec-type`引数はこの自動推論を無効にします。
今回のリリースには、macOS（Apple SiliconおよびIntel）、iOS、Linux（Ubuntu x64/arm64/s390xのCPU、Vulkan、ROCm 7.2、OpenVINO、SYCL）、Android arm64、Windows（CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP）、およびopenEuler用のバイナリが含まれています。