Проект llama.cpp представил выделенный парсер для шаблона чата Ling 3.0 (Bailing V3) в pull request #28682. Это изменение решает проблемы, при которых предварительно открытые блоки размышления модели приводили к неверной классификации вызовов инструментов как содержимого рассуждений, что приводило к сбою циклов агентов.
Новый парсер завершает рассуждение либо закрывающим тегом think, либо началом тега вызова инструмента, повторяя поведение в vLLM и SGLang. Он включает комплексные тесты для незакрытых блоков think, параллельных вызовов и различных типов аргументов.
Это обновление гарантирует, что клиенты получают вызовы инструментов вместо пустого содержимого, позволяя циклам агентов функционировать правильно с моделями Ling 3.0.