有用户报告称,一台 Strix Halo 设备在24小时内同时运行多个模型、编译代码并调用 CPU、GPU 和 NPU,每日最高成本仅为 0.48 美元。
- 在 Qwen3.6-27B (Q8_XL) 上可实现每秒 50 tok/s 的推理速度,同时保持静音和低能耗。
- 该设备的总功耗预算仅为 Nvidia A6000 的一半,而仅显卡本身的功耗就高达 300W。
- 该硬件具备灵活性,允许将未使用的资源用于在推理任务之外托管其他服务。
作者认为,尽管价格存在溢价,但考虑到体积、噪音和能耗,Strix Halo 设备相比传统 GPU 提供了显著的价值。