llama.cpp 项目发布了构建版本 b10727,引入了对量化数据类型的连接支持。此次更新由 DeepSeek-V4-Flash-0731 协助完成,并提供了适用于 macOS、Linux、Windows、Android 和 openEuler 的二进制文件,涵盖 CPU、CUDA、ROCm 和 Vulkan 等多种硬件后端。
该版本为多个平台和架构提供了预编译二进制文件:
- macOS Apple Silicon (arm64) 和 Intel (x64)
- 通过 XCFramework 支持 iOS
- Linux 发行版,包括 Ubuntu x64、arm64、s390x,以及支持 Vulkan、ROCm 7.14、OpenVINO 和 SYCL 的变体
- Windows x64 和 arm64,提供 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 ROCm 7.14 选项
- Android arm64 (CPU)
- openEuler x86 和 aarch64 配置
此版本使用户能够在广泛支持的操作系统和硬件加速器上利用新的量化连接功能。