llama.cpp プロジェクトはビルド b10273 をリリースし、バックエンドのサンプリング制約により、履歴ベースのサンプラーが初期化中に正しいコンテキスト長を推論できなかった重大な問題を解決しました。

  • サンプラーの初期化エラーを修正するため、ctx-len の代わりに -1 から 1024 に解決します。
  • 履歴ベースのサンプラーに対して共有デフォルト値 64 を設定し、context_size パラメータを削除します。
  • CPU、GPU(CUDA、Vulkan、ROCm、SYCL)、および OpenVINO バックエンド向けに、macOS、Linux、Windows、Android、openEuler 用のバイナリを提供します。

この更新により、完全な llama_context がまだ利用できない初期構築フェーズ中に、サンプラーの動作が安定します。