llama.cpp 项目发布了版本 b10045,在服务器组件中引入了一个新功能,允许通过 mtmd 使用仅文本格式保存和恢复槽位。

此更新适用于多个平台和硬件配置,包括 macOS(Apple Silicon 和 Intel)、iOS、Linux(Ubuntu x64、arm64、s390x,支持 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL 后端)、Android(arm64 CPU)、Windows(CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP)以及 openEuler。

该版本提供了核心服务器和 UI 的二进制文件,使用户能够在各种架构和操作系统上部署 llama.cpp。