Пользователь Reddit интересуется, возможно ли запустить разумную квантизацию модели Qwen 3.6 35B A3B или, возможно, Ornith/3.5 на ноутбуке с 32 ГБ LPDDR5 ОЗУ и GPU RTX 5060.

  • Пользователь отмечает, что ноутбук имеет 32 ГБ памяти LPDDR5, работающей на частоте 7500 MT/s, что обеспечивает более высокую пропускную способность по сравнению со стандартной DDR5.
  • В комплект входит мобильный GPU RTX 5060, который описывается как аналогичный настольной версии.
  • Пользователь признает, что хотя архитектура 35B A3B способна для своего размера, он ожидает потенциальных ограничений контекста или кэша KV во время использования.