El proyecto llama.cpp ha lanzado la compilación b10005, que incluye actualizaciones específicas para la arquitectura del modelo DeepseekV4. El lanzamiento aborda problemas de gestión de secuencias corrigiendo `seq_rm` e implementando una función `seq_cp` adecuada.

  • Corrige `seq_rm` para los modelos DeepseekV4.
  • Implementa la funcionalidad adecuada de `seq_cp`.
  • Crea un contexto de actualización real para un manejo mejorado.
  • Las compilaciones para macOS Apple Silicon (arm64) están disponibles, mientras que el soporte de KleidiAI está desactivado.
  • Los binarios de Linux cubren Ubuntu x64 y arm64 (CPU), s390x, Vulkan, ROCm 7.2, OpenVINO y SYCL FP32/FP16.
  • Se proporcionan compilaciones para Android arm64 CPU.
  • Las versiones de Windows incluyen variantes de CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL e HIP.
  • Se incluye soporte para openEuler en x86 y aarch64 (310p/910b ACL Graph), con algunas configuraciones desactivadas.

Esta actualización garantiza el manejo correcto de secuencias para los modelos DeepseekV4 en todas las plataformas compatibles.