llama.cpp のバージョン b9682 は、Linux と Windows 向けに Vulkan サポートを導入し、GPU アクセラレーションを可能にしました。このリリースには、macOS、Linux、Android、Windows、openEuler 向けのバイナリが含まれており、複数のアーキテクチャに対応しています。CPU および GPU のオプションには、CUDA、OpenVINO、SYCL、ROCm が含まれます。