llama.cpp 项目发布了构建版本 b10153,引入了对 Nanbeige4.2 模型架构的支持。
- 增加了对加载和运行 Nanbeige4.2 模型的兼容性。
- 修复了代码库中的 flake8 代码检查。
- 修正了循环边界检查并移除了冗余的 head_dim 逻辑。
- 提供了适用于 macOS (Apple Silicon 和 Intel)、Linux、Windows、Android 和 iOS 的二进制文件,支持 CPU、CUDA、ROCm、Vulkan、OpenVINO、SYCL 及其他后端。
此更新允许用户在 llama.cpp 框架内使用 Nanbeige4.2 模型,同时受益于整体代码质量的改进。