Проект llama.cpp выпустил версию b10291, которая включает критические исправления для бэкенда Vulkan наряду со стандартными обновлениями платформы. Основные технические изменения касаются проблем с размером пакетов отправки и внедряют новые диагностические возможности для ошибок драйвера.

  • Исправлена ошибка, при которой порог отправки применялся слишком поздно в конвейере Vulkan.
  • Добавлены инструменты отладки для предоставления более подробной информации при диагностике ошибок драйвера DeviceLost.
  • Вызовы abort заменены на выброс исключений и реализованы макросы логирования для лучшей обработки ошибок.
  • Очищены циклические зависимости внутри кодовой базы.

Это обновление повышает стабильность для пользователей, запускающих llama.cpp на оборудовании с поддержкой Vulkan, устраняя специфические проблемы с таймингом отправки и обеспечивая лучшую видимость причин сбоев.