llama.cpp 项目发布了构建版本 b10017，其中包含对 SYCL 后端的特定更新。该更改将统一共享内存 (USM) 系统分配的最小缓冲区阈值从 1 GiB 增加到 4 GiB。

  • 此调整基于涉及使用大于可用 VRAM 的模型权重来超分设备内存的实际实验，例如在 B70 上运行 Qwen3.5-35B-A3B-Q8。
  • 还添加了一条调试消息以更好地跟踪 USM 系统分配。
  • 该版本为 macOS（Apple Silicon 和 Intel）、Linux（CPU、Vulkan、ROCm、OpenVINO、SYCL）、Android、Windows（CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP）和 openEuler 提供了二进制文件。

此修改旨在提高在 SYCL 兼容硬件上处理超出可用 VRAM 的大模型时的稳定性。