llama.cpp 项目发布了 b10004 版本，为 Vulkan 和 CPU 后端的 SET_ROWS 操作引入了对 f16 作为源的全方位支持。此更新还包括额外的后端测试以及对 Intel 硬件的特定修复。

  • 为 Vulkan 和 CPU 后端添加了完整的 f16 SET_ROWS 支持（等同于 f32）。
  • 在支持的情况下设置 DenormPreserve 16，以解决 Intel 处理器上的故障。
  • 调整错误阈值并更新 Metal supports_op。
  • 提供适用于 macOS、Linux、Android、Windows 和 openEuler 的二进制文件，涵盖 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 和 HIP 后端。

此版本改进了特定后端操作中的精度处理，并通过新的二进制发行版扩展了平台覆盖范围。