Strix Halo 노트북, LLM 24시간 구동에 하루 $0.48

한 사용자는 Strix Halo 장치가 여러 모델을 실행하고 코드를 컴파일하며 CPU, GPU, NPU를 동시에 24시간 사용하는 데 최대 하루 $0.48의 비용이 든다고 보고했습니다.

• 시스템은 Qwen 3.6 35B (Q8_XL)에서 초당 50토큰을 처리하면서도 조용하고 에너지 효율적입니다.
• 장치의 총 전력 예산은 Nvidia A6000의 절반이며, A6000은 카드만으로도 300W를 소비합니다.
• 하드웨어는 미사용 자원을 추론 작업과 함께 다른 서비스의 호스팅에 사용할 수 있도록 다양성을 제공합니다.

저자는 가격이 부풀려졌음에도 불구하고 크기, 소음, 에너지 소비를 고려할 때 Strix Halo 장치가 전통적인 GPU에 비해 상당한 가치를 제공한다고 주장합니다.