一位用户发布了 Qwen3.5 和 Qwen3.6 Middle/Large 模型(27B 参数及以上)的仅 MTP GGUF 子集,以促进基于 Qwen 的微调实验。
- 这些文件通过提供必要的草稿权重,加速缺乏 MTP 张量的基于 Qwen 模型的令牌生成。
- 它们展示了如何将 Qwen3.5/3.6 MTP 张量嵌入到现有的 GGUF 文件中,解决了在其他量化(如 Ornith-1.0-35B)中发现的问题。
- 这些子集支持双重用途:作为 llama.cpp 的独立草稿模型文件,或作为移植与 MTP 相关张量的嫁接资产。
这些资源旨在通过提供易于访问和测试的模型文件,使基于 Qwen3.5/3.6 的微调测试和实验变得更加容易。