Выпущен Qwen 3.5 122B Heretic ROCmFP4 iMatrix GGUF

Пользователь выпустил пользовательскую квантизацию GGUF модели Qwen 3.5 122B под названием "Heretic", использующую техники ROCmFP4 и iMatrix.

• Чекпоинт предназначен для оборудования Strix Halo с 10 миллиардами активных параметров.
• Требуется примерно 60.70 ГиБ памяти.
• Бенчмарки показывают производительность 28.45 токенов в секунду в точности BF16.
• Модель достигает перплексии (KLD) 0.100716 и пропускной способности конвейера 353.3 токена в секунду.