grafting 및 가속화를 위한 Qwen3.5/3.6 MTP 전용 GGUF 하위 세트 출시

한 사용자가 Qwen 기반 파인튜닝에 대한 실험을 촉진하기 위해 Qwen3.5 및 Qwen3.6 미들/라지 모델(27B 파라미터 이상)의 MTP 전용 GGUF 하위 세트를 게시했습니다.

• 이 파일들은 필요한 드래프트 가중치를 제공하여 MTP 텐서가 없는 Qwen 기반 모델의 토큰 생성을 가속화합니다.
• 이들은 Ornith-1.0-35B와 같은 다른 양자화에서 발견된 문제를 해결하며, Qwen3.5/3.6 MTP 텐서를 기존 GGUF 파일 내에 임베드하는 방법을 보여줍니다.
• 하위 세트는 두 가지 용도를 지원합니다: llama.cpp를 위한 별도 드래프트 모델 파일로 사용하거나, MTP 관련 텐서를 이식하기 위한 grafting 자산으로 사용합니다.

이 리소스들은 접근 가능하고 테스트하기 쉬운 모델 파일을 제공하여 Qwen3.5/3.6 기반 파인튜닝에 대한 테스트 및 실험을 더 쉽게 만드는 것을 목표로 합니다.