GLM 5.2 在 MacBook Pro M5 上以 2-2.8 tok/s 运行

一名用户报告成功在配备 48 GB RAM 的 MacBook Pro M5 上使用 pipenetwork/GLM-5.2-MLX-mixed-3_6bit checkpoint 运行了 GLM 5.2 模型。推理速度达到每秒 2 到 2.8 个 token，具体取决于系统负载。

• 用户利用 Flash MOE 将 GLM 5.2 集成到一个自定义的 Claude Desktop 风格应用中。
• 使用 4.4k 预提示进行基准测试，在 6 分 38 秒内以 2t/s 的速度生成了 501 个输出 token。
• 无预提示的测试处理了 400 个输入 token，在 3 分 17 秒内生成了 337 个输出 token。

结果表明，GLM 5.2 在 Apple Silicon 硬件上本地执行是可行的，为特定编码任务提供了不同于 Qwen3.6 27B 等其他模型的功能性替代方案。