llama.cpp 项目发布了构建版本 b10328,引入了在服务器组件内使用 Docker 隔离工具的初步支持。此更新包括文档和代码适配,以分离工具 I/O 沙箱并重命名相关配置标志。
- 服务器:通过 Docker 添加初始工具隔离支持 (PR #26507)
- 更新文档并适配 get_info 功能
- 修复 Python 类型检查问题
- 将 tools_io_sandbox 与 tools_io_docker 分离
- 将 sandbox 重命名为 isolate,x-tool-docker 重命名为 x-tool-runtime
该版本为 macOS、Linux、Windows、Android 和 iOS 提供了二进制文件,支持包括 CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL 和 OpenCL 在内的各种硬件后端。