Проект llama.cpp выпустил версию b9980, которая включает исправление для компонента сервера, касающегося обнаружения мультимодальных моделей. При использовании флага `--no-mmproj-auto` для явного отключения мультимодальной проекции сервер больше не объявляет изображения или аудио входы как поддерживаемые модальности на эндпоинте `/v1/models`.

  • Доступны сборки для macOS Apple Silicon и Intel, хотя поддержка KleidiAI остается отключенной.
  • Бинарные файлы для Linux покрывают варианты CPU, Vulkan, ROCm 7.2, OpenVINO и SYCL для архитектур x64, arm64 и s390x.
  • Обновления для Windows включают новую поддержку CUDA 13 наряду с существующей поддержкой CUDA 12, OpenCL Adreno, Vulkan, OpenVINO, SYCL и HIP.
  • В этом релизе также предоставлены сборки CPU arm64 для Android и автономный UI.