github llama.cpp · 2 д назад · inference

llama.cpp b10938 добавляет мьютекс для queuesubmit в Vulkan для исправления бага драйвера NV

Переведено с English → Русский

Проект llama.cpp выпустил версию b10938, которая включает обходное решение бага драйвера NVIDIA, влияющего на выполнение Vulkan. Обновление вводит мьютекс вокруг операции queuesubmit для предотвращения проблем синхронизации при одновременной отправке двух очередей на одном VkDevice.

Добавляет мьютекс вокруг Vulkan queuesubmit для устранения внутренних нарушений синхронизации, вызванных параллельными отправками очередей на оборудовании NVIDIA.
Предоставляет бинарные файлы для macOS (Apple Silicon и Intel), Linux (CPU, Vulkan, ROCm, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenCL, OpenVINO, SYCL, ROCm) и платформ openEuler.

Этот релиз обеспечивает стабильную производительность Vulkan на затронутых драйверах NVIDIA путем устранения выявленного дефекта синхронизации.

Важность 1/3 Доверие 1/3 llama.cpp Inference efficiency

Оригинал

Похожие статьи

github llama.cpp · 1 ч назад · 1 просмотр Live

llama.cpp b10984 добавляет поддержку CUDA для SUM_ROWS с непрерывным расположением строк

Проект llama.cpp выпустил версию b10984, добавляющую поддержку CUDA для операций SUM_ROWS с непрерывным расположением строк. Это обновление также организует код для включения GGML_OP_MEAN для обработки тензоров с непрерывным расположением строк через общее ядро.

github llama.cpp · 2 ч назад · 1 просмотр

llama.cpp b10985 ограничивает RPC hash-кэш только весами

Проект llama.cpp выпустил сборку b10985, которая изменяет RPC-бэкенд, чтобы ограничить хеш-кэширование исключительно тензорами весов. Это изменение решает проблему, когда данные активации ненужно хешировались и сохранялись, что приводило к чрезмерному использованию диска.

github llama.cpp · 3 ч назад · 4 просмотра

llama.cpp b10982 добавляет поддержку разреженного Flash Attention через Vulkan для DSV4/GLM

Проект llama.cpp выпустил сборку b10982, которая вводит поддержку разреженного Flash Attention через бэкенд Vulkan. Это обновление специально ориентировано на модели DSV4 и GLM, позволяя им использовать механизмы разреженного внимания на совместимом оборудовании GPU.

github llama.cpp · 4 ч назад · 2 просмотра

llama.cpp b10981 исправляет декодирование с состоянием для Gemma-4 и оптимизирует GPU MoE вывод

Выпуск llama.cpp b10981 устраняет критические проблемы корректности в пути декодирования с состоянием бэкенда OpenVINO, конкретно исправляя поддержку моделей вроде Gemma-4, использующих размеры голов на слой. Он также вносит оптимизации для вывода GPU Mixture of Experts (MoE) и улучшает производительность через перераспределение состояния KV.

github llama.cpp · 5 ч назад · 1 просмотр

llama.cpp добавляет ядра Metal FA для HSK=96, HSV=64 MiniCPM3

Проект llama.cpp добавил поддержку ядра Flash Attention (FA) для конкретной конфигурации, используемой в MiniCPM3 на Apple Silicon. Это изменение устраняет сбой, при котором флаг `-fa auto` завершался ошибкой из-за отсутствия инициализации ядра для длины ключа внимания 96 и длины значения 64.