llama.cpp バージョン b9702 には、ルーター引数が子インスタンスに転送されない問題の修正が含まれています。このリリースでは、Vulkan、ROCm、OpenVINO、SYCL を含む複数のアーキテクチャとハードウェアアクセラレーション オプションに対応した、macOS、Linux、Android、Windows、openEuler 用のバイナリが提供されています。
llama.cpp リリース b9702: 修正と新しいバイナリ
翻訳元 English → 日本語