llama.cpp 项目发布了 b10249 版本,在服务器组件中引入了新的 `get_info` 工具。此更新还包括对 `--rpc` 标志的文档修复。

  • 服务器现在公开了用于检索系统信息的 `get_info` 工具。
  • 探针结果的处理已加固,当进程失败或超时时报告 'unknown'(未知),防止诊断文本被误认为是操作系统名称。
  • 添加了输出剥离和超时限制以确保数据处理的整洁性。
  • 该版本为 macOS (Apple Silicon 和 Intel)、iOS、Linux (CPU、Vulkan、ROCm、OpenVINO、SYCL)、Android、Windows (CPU、CUDA 12/13、Vulkan、OpenCL、OpenVINO、SYCL、HIP) 和 openEuler 提供了二进制文件。

此版本使 `get_info` 工具可用于服务器端诊断,同时为所有支持的平台提供更新的二进制文件。