Проект llama.cpp выпустил версию b9992, которая включает рефакторинг конфигурации ядра MMQ. Это обновление конкретно решает и исправляет конфигурацию для архитектуры NVIDIA Blackwell, одновременно удаляя устаревший код.
- Рефакторинг конфигурации ядра MMQ для улучшения поддержки CUDA.
- Исправлены проблемы с конфигурацией GPU Blackwell.
- Удален устаревший код из кодовой базы.
Этот релиз предоставляет обновленные бинарные файлы для macOS, Linux, Windows, Android и openEuler на различных аппаратных бэкендах, включая CPU, Vulkan, ROCm, OpenVINO, SYCL и HIP.