llama.cpp 项目发布了版本 b10549,主要引入了对 LFM2 和 LFM2MOE 模型中张量拆分的支持。

  • 更新包括适用于 macOS(Apple Silicon 和 Intel)、Linux(Ubuntu x64、arm64、s390x,支持 CPU、Vulkan、OpenVINO 和 SYCL 后端)、Windows(CPU、CUDA 12/13、Vulkan、OpenCL、ROCm)和 Android 的二进制文件。
  • iOS 支持通过 XCFramework 提供。
  • openEuler 构建版本适用于使用 ACL Graph 的 x86 和 aarch64 架构。

此版本提供了跨多个平台的更新二进制文件,以利用新的张量拆分功能运行 LFM2/LFM2MOE 模型。