Strix Halo ラップトップは LLM を24時間稼働させるのに1日あたり0.48ドル

あるユーザーによると、Strix Halo デバイスは複数のモデルを実行し、コードをコンパイルし、CPU、GPU、NPU を同時に24時間使用する場合、最大で1日あたり0.48ドルのコストがかかる。

• システムは Qwen 3.6 35B (Q8_XL) で毎秒50トークンを処理しながら、静かで省エネである。
• デバイスの総消費電力は Nvidia A6000 の半分であり、A6000 はカード単体で300Wを消費する。
• ハードウェアは、未使用のリソースを推論タスクと並行して他のサービスのホスティングに割り当てることで多様性を提供する。

著者は、価格が吊り上がっているにもかかわらず、サイズ、ノイズ、エネルギー消費を考慮すると、Strix Halo デバイスは従来の GPU に比べて大きな価値を提供すると主張している。