Проект llama.cpp выпустил сборку b10328, которая вводит первоначальную поддержку изоляции инструментов внутри компонента сервера с использованием Docker. Это обновление включает документацию и адаптацию кода для разделения песочниц ввода-вывода инструментов и переименование соответствующих флагов конфигурации.
- Сервер: добавляет начальную поддержку изоляции инструментов через Docker (PR #26507)
- Обновлена документация и адаптирована функция get_info
- Исправлены проблемы проверки типов Python
- Разделены tools_io_sandbox и tools_io_docker
- Переименованы sandbox в isolate, а x-tool-docker в x-tool-runtime
Релиз предоставляет бинарные файлы для macOS, Linux, Windows, Android и iOS для различных аппаратных бэкендов, включая CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL и OpenCL.