Проект llama.cpp выпустил сборку b10924, которая устраняет ошибку в роутере сервера, где дочерние команды состояния не обрамлялись как целые строки. Эта проблема возникла из-за того, что логгер выводил завершающие последовательности сброса цвета без символов новой строки в stderr, из-за чего они прилипали к следующей команде, прочитанной из stdout через общий канал.

  • Исправление записывает команды с ведущим символом новой строки, чтобы гарантировать их начало с границы строки, предотвращая неверную интерпретацию роутером команд состояния как строк журнала.
  • Это решает проблему, при которой завершённые загрузки оставались зависшими в состоянии загрузки из-за неудачных проверок префикса строки.
  • В релиз включены бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm) и openEuler.

Это обновление обеспечивает надёжную обработку завершения загрузок в среде сервера llama.cpp.