llama.cpp 项目发布了构建版本 b10198,在 Vulkan 后端中引入了对量化拼接操作的支持。
- 主要技术更新是在 pull request #25684 中添加了对量化 concat 的 Vulkan 支持。
- 此版本明确禁用了带有 KleidiAI 的 macOS Apple Silicon 构建。
- 为多个平台提供了二进制文件,包括 macOS(Apple Silicon 和 Intel)、Linux(Ubuntu x64、arm64、s390x)、Windows(CPU、CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL、HIP)、Android 和 openEuler。
- 发布包中还包含一个独立的 UI 二进制文件。