사용자가 32GB RAM과 RTX 5060이 탑재된 노트북에서 Qwen 3.6 35B A3B 실행 가능성 문의

레딧 사용자는 32GB LPDDR5 RAM과 RTX 5060 GPU가 탑재된 노트북에서 Qwen 3.6 35B A3B 모델의 합리적인 양자화 버전, 또는 Ornith/3.5를 실행할 수 있는지 여부를 문의합니다.

• 사용자는 노트북이 7500 MT/s로 동작하는 32GB LPDDR5 메모리를 갖추고 있어 표준 DDR5보다 더 높은 대역폭을 제공한다고 언급합니다.
• 하드웨어에는 데스크톱 버전과 유사한 RTX 5060 노트북 GPU가 포함되어 있습니다.
• 사용자는 35B A3B 아키텍처가 그 크기 대비 성능이 뛰어나다는 점을 인정하면서도, 사용 중 컨텍스트 또는 KV 캐시 제한이 발생할 수 있음을 예상합니다.