github llama.cpp · 16 天前 · inference

llama.cpp 发布 b96669，为 Eagle3 添加后端采样

译自 English → 中文

llama.cpp 版本 b9669 为 Eagle3 添加了后端采样支持。该版本包含适用于 macOS、Linux、Android、Windows 和 openEuler 的二进制文件，覆盖多种架构和硬件加速选项，包括 Vulkan、CUDA、ROCm、OpenVINO 和 SYCL。

重要性 1/3 可信度 2/3 llama.cpp Code generation Hardware & chips Inference efficiency