llama.cpp プロジェクトはバージョン b9945 をリリースしました。これには、サーバーコンポーネントのチャットテンプレート思考プローブに関する重要な修正が含まれています。この変更により、プローブが init の try/catch ブロック内に移動され、捕捉されない例外を防いでいます。
以前は、初期化時にはチャットテンプレートが正常に解析されるものの、パーサー生成時に失敗するモデル(例えば {% call %} を使用する場合)で、ガードされたスコープの外で std::invalid_argument エラーが発生していました。これにより、llama-cli は graceful なロード失敗ではなく SIGABRT によって中止されていました。この修正により、適用時のエラーが初期化時の解析エラーと一貫して処理されるようになりました。
今回のリリースでは、CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL、および OpenCL を含むさまざまなアーキテクチャ向けに、macOS、Linux、Windows、Android、openEuler 用のバイナリが提供されています。