Пользователь демонстрирует, что модель Qwen3.5 122B A10B, квантованная с помощью UD-Q2_K_XL, может поместиться в 64 ГБ системной оперативной памяти, заменяя предыдущий лучший вариант для данного ограничения.

  • Модель обеспечивает более качественные ответы и лучшие внутренние знания по сравнению с Qwen3 Next 80B в формате UD-Q4_K_XL.
  • Скорость генерации падает до примерно 2.9 tok/s на процессоре с DDR4, хотя DDR5-5600 может повысить этот показатель до 6 tok/s.
  • Архитектура использует 10B активных параметров через MTP, тогда как Qwen3 Next 80B использует только ~3.5B активных параметров.
  • Варианты REAP модели оказались хуже и не решили проблему медленной обработки промптов.

Эта конфигурация позволяет пользователям с ограниченной памятью получить доступ к возможностям более крупной модели, хотя медленная обработка промптов делает её непригодной для агентных нагрузок, требующих быстрого поиска информации.