llama.cpp 项目发布了构建版本 b11450,引入了远程过程调用 (RPC) 增强功能和平台特定的错误修复。此更新允许对 RPC 操作使用 `-sm tensor` 标志,并解决了影响 Apple RDMA 实现的刷新问题。
- 在 RPC 配置中添加了对 `-sm tensor` 参数的支持。
- 修复了 Apple RDMA 系统的数据刷新行为。
- 将 graph_uids 移至 rpc_dispatcher 模块。
- 停止了调度器线程的不必要旋转。
- 提升了 RPC 主版本号。
- 为 macOS、Linux、Windows、Android 和 openEuler 的 CPU、GPU 和 NPU 后端提供了二进制文件。