O projeto llama.cpp lançou a versão b9973, que inclui uma atualização específica para os modelos DeepseekV4. A principal mudança envolve limpar o cache apenas para a sequência, em vez de todo o contexto.

  • Binários para macOS Apple Silicon e Intel estão disponíveis.
  • XCFramework para iOS é fornecido.
  • As compilações do Ubuntu cobrem os backends CPU, Vulkan, ROCm 7.2, OpenVINO e SYCL.
  • Um binário de CPU arm64 para Android está incluído.
  • As compilações do Windows suportam CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
  • Estão disponíveis compilações do openEuler x86 e aarch64 com ACL Graph.

Este lançamento fornece binários atualizados para várias plataformas e aceleradores de hardware.