一名用户通过 SGLang 在 H200 GPU 上使用 FP8 精度和 FP8 键值缓存量化测试了 GLM 5.2 模型。评估是在 Terminal-Bench 2.1 基准套件上进行的。

  • 该模型通过了 89 项任务中的 71 项，得分为 79.8%。
  • 有一项任务超时且未重新运行，这可能会影响最终得分。
  • 测试使用了 218,656,815 个输入 token，缓存命中率为 98.8%。

这展示了 GLM 5.2 在高端硬件特定量化条件下的性能。