Недавние обновления llama.cpp вносят ряд улучшений для оборудования SYCL/Intel, включая повышение производительности и поддержку новых функций.
- Flash Attention с использованием движка XMX через API графа oneDNN теперь доступен для архитектур Xe2, что значительно ускоряет скорость префилла для моделей, таких как Qwen3.6-27b-Q8_0.
- Базовый код теперь поддерживает тип операции XIELU и добавляет поддержку fp16 для ядра conv2d_dw.
- Исправления включают увеличение минимального размера буфера для распределений USM в системе и исправление ошибок в операциях get_rows для квантований Q2_K, Q4_K и Q5_K.
Эти изменения повышают совместимость и производительность для пользователей, запускающих llama.cpp на GPU Intel с использованием бэкенда SYCL.