llama.cpp バージョン b9704 は、制約を黙ってドロップする代わりに、無効な構文に対して HTTP 400 を返すようになりました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリが含まれており、複数のアーキテクチャとハードウェアアクセラレータに対応し、Vulkan、ROCm、OpenVINO、SYCL、CUDA のサポートがあります。
llama.cpp リリース b9704: 無効な構文処理の修正と新しいバイナリの追加
翻訳元 English → 日本語