llama.cpp 项目发布了版本 b10638,该版本为 `cross_entropy_loss` 和 `cross_entropy_loss_back` 函数实现了 Vulkan 支持。

  • 此次发布包括针对 macOS(Apple Silicon 和 Intel)、Linux(Ubuntu x64、arm64、s390x)、Windows(x64 和 arm64)、Android(arm64)和 openEuler 的预构建二进制文件。
  • GPU 加速可通过 Vulkan、CUDA(12.4、13.3、13.4 preview)、ROCm 7.14、OpenCL Adreno、SYCL 和 OpenVINO 在支持的平台上使用。
  • 此版本中禁用了带有 KleidiAI 的 macOS Apple Silicon 构建。
  • 核心二进制文件还附带了更新的 UI 包。