O projeto llama.cpp publicou o lançamento b9802, oferecendo binários pré-compilados em vários sistemas operacionais e arquiteturas de hardware. Esta atualização inclui suporte para CPU, GPU e aceleradores de IA especializados em plataformas como macOS, Linux, Windows, Android e openEuler.
- As compilações para macOS estão disponíveis para Apple Silicon (arm64) e Intel (x64), além de um XCFramework para iOS.
- Os binários para Linux cobrem CPUs Ubuntu x64 e arm64, Vulkan, ROCm 7.2, OpenVINO e variantes SYCL FP32/FP16.
- As versões para Windows incluem opções de CPU, CUDA 12.4 e 13.3, Vulkan, OpenVINO, SYCL, HIP e OpenCL Adreno.
- O suporte para Android é fornecido para CPUs arm64, enquanto as compilações para openEuler estão disponíveis para arquiteturas x86 e aarch64.
O lançamento permite que os usuários executem o llama.cpp localmente em uma ampla variedade de dispositivos sem exigir compilação local.