Проект llama.cpp выпустил версию b9935, добавляющую поддержку VISION RoPE для DSP Hexagon. Это обновление включает специфические изменения для обработки стрided половинных измерений и неконтейгуированных буферов назначения.

  • Добавлена поддержка VISION RoPE для процессоров Hexagon.
  • Включена RoPE на стридированных половинных измерениях во всех режимах.
  • Развязан размер копирования src0 DMA от шага строки в hex-rope.
  • Исправлен шаг spad назначения для неконтейгуированных пунктов назначения.

Этот релиз предоставляет бинарные файлы для macOS, iOS, Linux, Android, Windows и openEuler через CPU, GPU и NPU бэкенды.