JetBrains 推出了 Mellum 2，宣传其延迟与通过多令牌预测（MTP）实现的 Qwen2.5-Coder 7B 相当。然而，发布的 GGUF 文件中不包含类似 MTP 头的层。
- 源代码询问如何直接从提供的 safetensors 文件中提取 MTP 权重。
- 提供了指向特定 Q8_0 GGUF 和 Hugging Face 上主模型仓库的链接。
JetBrains Mellum 2 声称通过 MTP 实现低延迟，但 GGUF 缺乏可见的 MTP 头
译自 English → 中文