llama.cpp 项目发布了 b10610 版本,其中包括对 ggml 后端中 CUDA 和 Metal 平台的虚拟设备命名进行简化的更改。
- 该更新修改了 CUDA 和 Metal 后端中虚拟设备的命名方式,以减少冗长性。
- 支持 KleidiAI 的 macOS Apple Silicon 构建在此版本中仍处于禁用状态。
- 提供了适用于 macOS(Apple Silicon 和 Intel)、Linux(CPU、Vulkan、ROCm 7.14、OpenVINO、SYCL)、Windows(CPU、CUDA 12/13、Vulkan、OpenCL、ROCm 7.14)、Android 和 openEuler 的二进制文件。
此版本为各种硬件加速器和操作系统提供了更新的二进制文件,同时优化了内部设备标识字符串。