JetBrainsはMellum 2を発表し、Multi-Token Prediction (MTP) を介して達成されたQwen2.5-Coder 7Bと同等のレイテンシを宣伝している。しかし、公開されているGGUFファイルには、MTPヘッドに似た層が含まれていない。

  • ソースは、提供されたsafetensorsファイルからMTP重みを直接抽出する方法について疑問を呈している。
  • 特定のQ8_0 GGUFとHugging Face上のメインモデルリポジトリへのリンクが提供されている。