Проект llama.cpp выпустил сборку b10048, которая включает исправление для моделей Phi3, Bert, Plamo2/3 и ChatGLM.

  • Исправлены проблемы с архитектурами Phi3, Bert, Plamo2/3 и ChatGLM.
  • Поддержка KleidiAI для macOS Apple Silicon отключена в этой сборке.
  • Сборки openEuler доступны для архитектур x86 и aarch64, включая поддержку ACL Graph 910b.
  • Бинарные файлы Windows теперь включают поддержку CUDA 13.3 наряду с существующими опциями CUDA 12.4.
  • Предварительно собранные бинарные файлы предоставлены для Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android arm64 и macOS Intel.

Это обновление предоставляет обновленные бинарные файлы для различных платформ и аппаратных ускорителей, чтобы обеспечить совместимость с указанными архитектурами моделей.