llama.cpp 项目发布了构建版本 b10828，引入了对 Spark2_5ForCausalLM 模型的实现支持。此更新包括添加 Spark3 模型架构并将其重命名为 spark2_5。

  • 通过 pull request #27868 增加了对 Spark2_5ForCausalLM 实现的支持。
  • macOS 构建版本适用于 Apple Silicon (arm64) 和 Intel (x64)。
  • 为 Ubuntu x64、arm64、s390x 提供了 Linux 二进制文件，包括 Vulkan、ROCm 10.0、OpenVINO 和 SYCL 变体。
  • Windows 发行版包括 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL 和 ROCm 10.0 选项。
  • 还分发 Android arm64 (CPU) 二进制文件。

此发布使用户能够在广泛的各种硬件平台和操作系统上运行 Spark2_5 模型。