llama.cpp 项目发布了构建版本 b10052,对 Hexagon 后端进行了重大内部更改。此次更新包括对 L2 缓存处理的重新设计,采用脏位跟踪和延迟刷新机制,以及针对矩阵乘法内核的各种更新。

  • hex-mm:修复求解器中的限制条件,该限制限制了 act-prep 线程的数量
  • hmx-mm:添加对分块 act-processing 的支持,以更好地分配 Hvx 工作负载
  • hex-l2:在 opbatch 级别优化 L2 刷新并跟踪张量别名,以延迟或跳过刷新
  • hex-work:重写遗留的 workpool API 以匹配 hmx-queue 和 dma-queue
  • hex-main:为 dspqueue 回调引入回退模式,并移除导致错误的早期唤醒逻辑

此版本为 macOS、Linux、Windows、Android 和 iOS 提供了更新后的二进制文件,涵盖 CPU、GPU 和专业硬件后端。