llama.cpp 项目发布了 b11433 版本,引入了对 Hexagon NPU 上池化操作的支持。此更新包括 2D 和 1D 池化层的实现。

  • 为 Hexagon 后端添加了 pool_2d 和 pool_1d 支持。
  • 优化了 HTP 池化边界和 DMA 流水线。
  • 重写了 DMA 流水线并添加了池化分块支持。
  • 移除了向量化标量路径并简化了分块求解器。

此版本为 macOS、Linux、Windows、Android 和 openEuler 提供了适用于 CPU、GPU 和 NPU 架构的二进制文件。