一位运行 Qwen3.6-35B-A3B 和密集 Qwen3.6-27B 的开发者认为,对于仅关注英文技术文本和代码的用户来说,多语言权重浪费了 VRAM。
- 作者指出,密集模型需要加载完整的 16-20GB 权重文件,这会将拥有 8GB 或 12GB GPU 等有限硬件的用户排除在外。
- 他提出了两种潜在的解决方案:从零开始训练没有多语言数据的新模型,或者对现有模型进行后处理剪枝以移除非英语容量。
- 作者引用了一项关于 DeepSeek-R1 和 OpenAI o1 等推理模型的研究,指出它们在复杂任务上的执行准确率低于更简单的基准测试。
核心问题在于,技术上是否可行地剥离多语言权重以回收 VRAM,从而在消费级硬件上获得更好的编码性能。