llama.cpp 项目发布了构建版本 b11306，解决了在解码过程中因图形状变化而导致的崩溃问题。此次更新修改了对 `causal_attn` 标志的处理方式，以防止在特定调度约束下发生重新分配失败。

  • 设备解码后，`causal_attn` 在前半部分 ubatch 中关闭，然后在剩余部分重新开启，以确保节点数量一致。
  • 此更改防止图在不改变大小的情况下进行重新分配，此前当 `GGML_SCHED_NO_REALLOC` 处于活动状态时会中止执行。
  • 该修复适用于解码架构，但跳过编码架构。

此次发布包含 macOS（Apple Silicon 和 Intel）、iOS、Linux（CPU、CUDA 12/13、ROCm 10.0、OpenVINO、SYCL、Snapdragon）、Android、Windows（CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、ROCm 10.0）和 openEuler 的二进制文件。