llama.cpp 项目发布了构建版本 b11338,引入了用于 CPY 和 CONCAT 操作的共享步长直接内存访问 (DMA) 复制机制。此更新支持在 Hexagon 架构上通过 DMA 进行任意维度的 CONCAT。
- 为 CPY 和 CONCAT 操作实现了共享步长 DMA 复制。
- 启用了通过 DMA 的任意维度 CONCAT。
- 移除了与 64 位 DMA 不兼容的损坏的 CONCAT_DMA_MIN_ROW 逻辑。
- 添加了缺失的 dma_queue_flush() 调用以及针对不支持条件的额外保护。
此版本为 macOS、Linux、Windows、Android 和 openEuler 提供了适用于 CPU、GPU 和 NPU 后端的二进制文件。