llama.cpp 项目发布了构建版本 b11078，在 `llama-server` 组件中引入了用于配置关键生成参数的环境变量支持。此更新允许用户通过 `LLAMA_ARG_*` 变量设置温度、top-p、min-p 和各种惩罚。

  • 允许通过 EnvironmentFile（如 Debian 上的 systemd）完全控制 `llama-server`。
  • 使用 `llama-gen-docs` 重新生成了 readme 文件。
  • 提供 macOS (Apple Silicon 和 Intel)、iOS、Linux (CPU、Vulkan、CUDA 12/13、ROCm、OpenVINO、SYCL)、Android、Windows 和 openEuler 的二进制文件。

此更改通过允许通过标准系统环境变量文件进行配置，促进了 llama.cpp 在托管服务环境中的更易于集成。