llama.cpp 项目已发布版本 b10356,主要目标是构建基础设施,将 ROCm 后端从版本 7.2.1 切换至 7.14。此更新与 ROCm 7.14 成为首个使用 TheRock 构建系统的生产版本相一致,并将 CI 作业迁移为在 Linux 和 Windows 上使用多架构 wheel。

  • 将 Linux 和 Windows 构建中的 ROCm 目标从 7.2.1 切换至 7.14。
  • 将共享的 Windows 设置操作迁移至多架构 ROCm wheels,并相应更新 build-cuda-windows.yml。
  • 添加适用于 CUDA 13 (x64) 的新 Windows 二进制文件,并提供对 CUDA 13.4 (arm64) 的预览支持。
  • 提供适用于 macOS (Apple Silicon 和 Intel)、Linux (CPU、Vulkan、OpenVINO、SYCL)、Android 和 iOS 的预构建二进制文件。

此版本确保与最新 ROCm 基础设施兼容,同时通过更新的 CUDA 版本扩展了 Windows 上的 GPU 加速选项。