O projeto llama.cpp lançou a compilação b10328, que introduz suporte inicial para isolar ferramentas dentro do componente do servidor usando Docker. Esta atualização inclui documentação e adaptações de código para separar as caixas de areia de E/S das ferramentas e renomear as sinalizações de configuração relevantes.
- Servidor: adiciona suporte inicial de isolamento de ferramentas via Docker (PR #26507)
- Atualiza a documentação e adapta a funcionalidade get_info
- Corrige problemas de verificação de tipos do Python
- Separa tools_io_sandbox de tools_io_docker
- Renomeia sandbox para isolate e x-tool-docker para x-tool-runtime
O lançamento fornece binários para macOS, Linux, Windows, Android e iOS em vários backends de hardware, incluindo CPU, CUDA, Vulkan, ROCm, OpenVINO, SYCL e OpenCL.