Проект llama.cpp выпустил версию b10444, добавляющую поддержку загрузки ассистентных моделей Multi-Token Prediction (MTP) через флаг `--models-dir`. Это обновление также включает строгую проверку префикса для моделей MTP в пресетах и убирает поддержку типа черновика eagle3.
- common: поддержка загрузки ассистентных моделей MTP через --models-dir
- common: preset: проверка моделей MTP со строгим префиксом
- обработка других типов черновиков
- удаление eagle3
Релиз предоставляет бинарные файлы для macOS (Apple Silicon и Intel), Linux (Ubuntu x64, arm64, s390x, Vulkan, OpenVINO, SYCL), Android, Windows (CPU, CUDA 12/13, Vulkan, OpenVINO, SYCL, ROCm) и openEuler.