Проект llama.cpp выпустил версию b9957, которая сосредоточена на улучшении инфраструктуры инструментов сервера. Обновление вводит абстракцию `tools_io` и её базовую реализацию, а также удаляет функцию `apply_diff`.
- Улучшена функциональность инструмента редактирования
- Добавлена абстракция tools_io и tools_io_basic
- Утилиты перемещены в члены класса и добавлены квалификаторы const
- Исправлены проблемы сборки
- Отключена поддержка KleidiAI для Apple Silicon на macOS
- Предоставлены бинарные файлы для macOS, Linux, Android, Windows и openEuler для CPU, GPU и различных ускорителей, таких как CUDA, Vulkan, ROCm и OpenVINO
Этот релиз обновляет возможности серверной части и предоставляет обновленные бинарные файлы для широкого спектра аппаратных платформ.