llama.cpp 项目发布了版本 b9980，其中包括对服务器组件关于多模态模型检测的修复。当使用 `--no-mmproj-auto` 标志显式禁用多模态投影时，服务器不再在 `/v1/models` 端点上声明图像或音频输入为支持的模态。

  • macOS Apple Silicon 和 Intel 构建版本可用，但 KleidiAI 支持仍处于禁用状态。
  • Linux 二进制文件涵盖 x64、arm64 和 s390x 架构的 CPU、Vulkan、ROCm 7.2、OpenVINO 和 SYCL 变体。
  • Windows 更新包括新增的 CUDA 13 支持，以及现有的 CUDA 12、OpenCL Adreno、Vulkan、OpenVINO、SYCL 和 HIP 选项。
  • 此版本还提供了 Android arm64 CPU 构建版本和独立 UI。