Проект llama.cpp представил новый конечный пункт API `/v1/systemone` для поддержки специфических архитектур моделей, включая laya, julia-1, lev, openjev и kev. Это обновление включает необходимый серверный код, скрипты конвертации и документацию для интеграции этих моделей в экосистему llama.cpp.
- Добавлен конечный пункт API `/v1/systemone` для моделей laya, julia-1, lev, openjev и kev.
- Реализована поддержка загрузки и конвертации моделей для новых архитектур.
- Добавлена поддержка зрения (vision) и возможности общего префикса промпта.
- Включена крошечная модель `openjev` для целей тестирования.
- Обновлена документация и улучшен пользовательский опыт для новой функции.
Это обновление предоставляет разработчикам инфраструктуру для запуска и обслуживания этих конкретных типов моделей с использованием сервера llama.cpp.