JetBrains Mellum 2 заявляет о низкой задержке благодаря MTP, но в GGUF отсутствуют видимые головы MTP

JetBrains представила Mellum 2, рекламируя задержку, сопоставимую с Qwen2.5-Coder 7B, достигнутой благодаря Multi-Token Prediction (MTP). Однако опубликованные файлы GGUF не содержат слоев, напоминающих голову MTP.

• В исходном материале задается вопрос о том, как извлечь веса MTP непосредственно из предоставленных файлов safetensors.
• Приведены ссылки на конкретный GGUF формата Q8_0 и основной репозиторий модели на Hugging Face.