llama.cpp 项目发布了 b10663 版本,其中包括对影响分组和广播归一化的 RMS_NORM_MUL 权重偏移错误的修复。

  • 修复了分组/广播归一化的 RMS_NORM_MUL 权重偏移错误(PR #27798)。
  • 提供适用于 macOS(Apple Silicon 和 Intel)、iOS、Linux(CPU、Vulkan、ROCm 7.14、OpenVINO、SYCL)、Android、Windows(CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm 7.14)和 openEuler 的二进制文件。

此版本确保特定模型架构的归一化行为正确,同时在所有支持的平台提供更新的二进制文件。