llama.cpp 项目发布了构建版本 b9971,其中包括对 `server_stream` 功能的重构。此更新通过移除非线程安全的 `rd.stop()` 调用并移动 `server_res_spipe` 来解决线程安全问题。该版本还更新了开发者文档以反映改进的 API。
- 重构了 `server_stream` 并从 `server_http_res` 中移除了 `spipe`
- 移除了非线程安全的 `rd.stop()` 调用并移动了 `server_res_spipe`
- 更新了改进后的 server-stream API 的开发文档
- 禁用了 macOS Apple Silicon (arm64, KleidiAI 启用) 构建
- 为 CPU、GPU 和 AI 加速器后端提供了适用于 macOS、Linux、Android、Windows 和 openEuler 的二进制文件
该版本在保持广泛平台支持的同时,确保了服务器流组件的线程安全。