Проект llama.cpp выпустил сборку b10093, которая включает специфические обновления для поддержки моделей DeepSeek v4. Релиз решает проблемы с обработкой шаблонов и вводит новые флаги конфигурации для этого семейства моделей.

  • Исправляет созданный шаблон DeepSeek v4, чтобы он явно следовал референсному поведению.
  • Добавляет поддержку флага `drop_reasoning` для DeepSeek v4.
  • Подключает парсер DeepSeek 3.2 для обработки входных данных DeepSeek v4.
  • Включает исправление для переупорядочивания результатов инструментов.

Это обновление обеспечивает правильное форматирование чата и обработку токенов рассуждения для моделей DeepSeek v4 в llama.cpp.