Проект llama.cpp выпустил версию b9890, которая включает значительный рефакторинг бэкенда и исправления ошибок. Обновление удаляет флаг -sm для CUDA и реорганизует интеграцию cuBLAS для повышения стабильности.
- Исправлены ошибки логики CDNA + BF16
- Исправлены некорректные возвращаемые значения в операциях
- Решены проблемы с шагами src0 и требованиями к непрерывной памяти
- Исправлена конфигурация GGML_CUDA_FORCE_CUBLAS
- Исправлены приведения к формату BF16
В этом релизе представлены обновленные бинарные файлы для macOS, Linux, Windows, Android и openEuler для CPU, GPU и различных ускорителей.