O projeto llama.cpp lançou a versão b9973, que inclui uma atualização específica para os modelos DeepseekV4. A principal mudança envolve limpar o cache apenas para a sequência, em vez de todo o contexto.
- Binários para macOS Apple Silicon e Intel estão disponíveis.
- XCFramework para iOS é fornecido.
- As compilações do Ubuntu cobrem os backends CPU, Vulkan, ROCm 7.2, OpenVINO e SYCL.
- Um binário de CPU arm64 para Android está incluído.
- As compilações do Windows suportam CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
- Estão disponíveis compilações do openEuler x86 e aarch64 com ACL Graph.
Este lançamento fornece binários atualizados para várias plataformas e aceleradores de hardware.