llama.cpp 项目发布了 b9972 版本,引入了在服务器组件中为 `exec_shell_command` 函数启用流式传输的能力。此更新包括流初始化的实现和测试,以及相应的文档更新。

  • 服务器:允许 exec_shell_command 进行流式传输(PR #25526)
  • macOS/iOS:提供适用于 Apple Silicon (arm64)、Intel (x64) 和 iOS XCFramework 的二进制文件;KleidiAI 支持已禁用。
  • Linux:提供适用于 Ubuntu x64、arm64 和 s390x 的构建,涵盖 CPU、Vulkan、ROCm 7.2、OpenVINO、SYCL FP32 和 SYCL FP16 后端。
  • Android:发布了 Arm64 CPU 二进制文件。
  • Windows:二进制文件支持 x64 和 arm64 架构上的 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 HIP。
  • openEuler:提供适用于 x86 和 aarch64 且支持 ACL Graph 的构建;标准构建已禁用。
  • UI:发布了标准 UI 二进制文件。

此版本为各种平台和硬件加速器提供了更新的二进制文件,同时为 shell 命令执行添加了流式传输功能。