Проект llama.cpp выпустил сборку b11078, которая внедряет поддержку переменных окружения для настройки ключевых параметров генерации в компоненте `llama-server`. Это обновление позволяет пользователям устанавливать температуру, top-p, min-p и различные штрафы через переменные `LLAMA_ARG_*`.

  • Обеспечивает полный контроль над `llama-server` через EnvironmentFile, например, systemd на Debian.
  • Включает перегенерированные файлы readme с использованием `llama-gen-docs`.
  • Предоставляет бинарные файлы для macOS (Apple Silicon и Intel), iOS, Linux (CPU, Vulkan, CUDA 12/13, ROCm, OpenVINO, SYCL), Android, Windows и openEuler.

Это изменение облегчает интеграцию llama.cpp в управляемые сервисные среды, позволяя настраивать параметры через стандартные системные файлы окружения.