Выпуск llama.cpp b9933 устраняет критические проблемы с OpenCL, вызывавшие искажённый вывод для квантованных весов Q6_K, когда размерность ne01 не кратна 128. Этот баг затрагивал модели типа granite-3.1-3b-a800m-instruct, где нечётные размеры словаря приводили к некорректной обработке памяти на GPU Adreno.
Исправление перенаправляет плотное умножение матриц в обход пути noshuffle при ne01 % 128 != 0, используя плоское GEMV для декодирования и возвращаясь к CPU для других форм. Кроме того, выпуск реализует get_alloc_size для буферов OpenCL, чтобы резервировать выравнивающий зазор, предотвращая перекрывание суббуферов, которое молча повреждало соседние тензоры.
Это обновление обеспечивает корректные результаты вывода на устройствах с определёнными ограничениями по выравниванию и предотвращает повреждение памяти при обработке квантованных весов.