llama.cpp プロジェクトはビルド b10148 をリリースし、推論デコーディングの設定とロギングの問題に対処しました。このアップデートにより、ドラフトモデルの明示的なコマンドライン引数が自動サイドカー解決よりも優先されることが保証されます。
- 明示的な --model-draft フラグは now 自動サイドカー解決を無効にし、手動の CLI 設定がデフォルトの動作を上書きできるようになります。
- サイドカーの選択ロジックが更新され、メインモデルのタグに固定されるようになり、正確な一致または最も近い量子化へのフォールバックが可能になりました。
- 推論読み込みログは trace から info レベルに昇格し、ドラフトモデルと MTP コンテキストの可視性が他のシステムログと一貫しました。
これらの変更により、手動のドラフトモデル指定に依存するユーザーの信頼性が向上し、より明確な運用ロギングが提供されます。