PrismML 发布 Bonsai 27B，一款在 10GB 内存上运行的三元 Qwen3.6 模型

PrismML 发布了 Bonsai 27B，这是一个将 Ternary/BitNet 方法应用于 Qwen3.6 27B 的新模型。这种方法允许模型以接近 fp16 的精度运行，同时在 M4 Pro 芯片上仅消耗约 10GB 内存。

• 该模型使用三元 GGUF 格式，需要特定的 llama.cpp fork 进行推理。
• 支持 256K 上下文窗口和多模态输入能力。
• 基准测试表明其性能优于 Qwen3.6 27B 传统的 2-3bit 量化版本。
• 发布内容包括 GGUF 主要实现以及 MLX fork。

此发布使得在 VRAM 有限的笔记本电脑和台式机上运行高实用性 27B 模型成为可能，解决了之前本地部署的限制。