Проект llama.cpp выпустил сборку b10005, которая включает специфические обновления для архитектуры модели DeepseekV4. Релиз устраняет проблемы управления последовательностями путем исправления `seq_rm` и реализации корректной функции `seq_cp`.

  • Исправлен `seq_rm` для моделей DeepseekV4.
  • Реализована корректная функциональность `seq_cp`.
  • Создан реальный контекст обновления для улучшенной обработки.
  • Доступны сборки macOS Apple Silicon (arm64), при этом поддержка KleidiAI отключена.
  • Бинарные файлы Linux охватывают Ubuntu x64 и arm64 (CPU), s390x, Vulkan, ROCm 7.2, OpenVINO и SYCL FP32/FP16.
  • Предоставлены сборки Android arm64 CPU.
  • Релизы Windows включают варианты CPU, OpenCL Adreno, CUDA 12/13, Vulkan, OpenVINO, SYCL и HIP.
  • Включена поддержка openEuler для x86 и aarch64 (310p/910b ACL Graph), при этом некоторые конфигурации отключены.

Это обновление обеспечивает корректную обработку последовательностей для моделей DeepseekV4 на всех поддерживаемых платформах.