llama.cpp バージョン b9776 は、Linux および Windows 向けの Vulkan サポートを導入し、macOS、Linux、Android、Windows 上で CPU、OpenCL、CUDA、SYCL の各バリアントをサポートします。今回のリリースでは OpenVINO と ROCm のサポートも含まれており、UI はスタンドアロンパッケージとして提供されます。
llama.cpp リリース b9776 が Vulkan と複数のハードウェアサポートを追加
翻訳元 English → 日本語