Subconjuntos GGUF apenas com MTP para Qwen3.5/3.6 lançados para enxerto e aceleração

Um usuário publicou subconjuntos GGUF apenas com MTP dos modelos Qwen3.5 e Qwen3.6 Middle/Large (27B de parâmetros e acima) para facilitar a experimentação com ajustes finos baseados em Qwen.

• Os arquivos aceleram a geração de tokens para modelos baseados em Qwen que não possuem tensores MTP, fornecendo os pesos de rascunho necessários.
• Eles demonstram como os tensores MTP do Qwen3.5/3.6 podem ser incorporados dentro de arquivos GGUF existentes, abordando problemas encontrados em outras quantizações como Ornith-1.0-35B.
• Os subconjuntos suportam dois usos: servir como arquivos de modelo de rascunho separados para llama.cpp ou como ativos de enxerto para transplantar tensores relacionados ao MTP.

Esses recursos visam tornar os testes e experimentações com ajustes finos baseados em Qwen3.5/3.6 mais fáceis, fornecendo arquivos de modelos acessíveis e fáceis de testar.