Проект llama.cpp выпустил сборку b10048, которая включает исправление для моделей Phi3, Bert, Plamo2/3 и ChatGLM.
- Исправлены проблемы с архитектурами Phi3, Bert, Plamo2/3 и ChatGLM.
- Поддержка KleidiAI для macOS Apple Silicon отключена в этой сборке.
- Сборки openEuler доступны для архитектур x86 и aarch64, включая поддержку ACL Graph 910b.
- Бинарные файлы Windows теперь включают поддержку CUDA 13.3 наряду с существующими опциями CUDA 12.4.
- Предварительно собранные бинарные файлы предоставлены для Ubuntu (CPU, Vulkan, ROCm 7.2, OpenVINO, SYCL), Android arm64 и macOS Intel.
Это обновление предоставляет обновленные бинарные файлы для различных платформ и аппаратных ускорителей, чтобы обеспечить совместимость с указанными архитектурами моделей.