llama.cpp 项目发布了构建版本 b11156,引入了对 Ling 3.0 VL 模型的支持。此更新将 Ling 3.0 VL 整合到 BailingMoeV3 架构中,并确保在 mrope 部分门控 BailingMoe3 时保持共享 NORM rope 列表完整。
- 通过将 Ling 3.0 VL 与 BailingMoeV3 架构集成来添加模型支持。
- 在 BailingMoe3 的门控 mrope 部分期间保持共享 NORM rope 列表的完整性。
- 提供适用于 macOS(Apple Silicon 和 Intel)、iOS、Linux(CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL、Snapdragon)、Android、Windows 和 openEuler 的二进制文件。
此版本使用户能够在各种硬件平台和操作系统上运行 Ling 3.0 VL 模型。