Проект llama.cpp выпустил версию b9935, добавляющую поддержку VISION RoPE для DSP Hexagon. Это обновление включает специфические изменения для обработки стрided половинных измерений и неконтейгуированных буферов назначения.
- Добавлена поддержка VISION RoPE для процессоров Hexagon.
- Включена RoPE на стридированных половинных измерениях во всех режимах.
- Развязан размер копирования src0 DMA от шага строки в hex-rope.
- Исправлен шаг spad назначения для неконтейгуированных пунктов назначения.
Этот релиз предоставляет бинарные файлы для macOS, iOS, Linux, Android, Windows и openEuler через CPU, GPU и NPU бэкенды.