llama.cpp 项目发布了版本 b9922,在 `split_equal` 函数中引入了一个新的 `n_keep_tail` 参数,专门用于循环模型。

  • macOS Apple Silicon (arm64) 二进制文件已提供。
  • macOS Intel (x64) 二进制文件已提供。
  • 包含 iOS XCFramework。
  • Ubuntu x64 和 arm64 CPU 构建版本已发布。
  • Ubuntu Vulkan、ROCm 7.2、OpenVINO、SYCL FP32 和 SYCL FP16 变体已可用。
  • Android arm64 CPU 二进制文件已提供。
  • Windows x64 和 arm64 CPU 构建版本已发布。
  • Windows CUDA 12.4、CUDA 13.3、Vulkan、OpenVINO、SYCL 和 HIP 构建版本已可用。
  • 包含支持 ACL Graph 的 openEuler x86 和 aarch64 构建版本。
  • 提供了独立的 UI 包。

此更新更新了 llama.cpp 在多个平台和硬件加速器上的二进制分发。