一所大学的高性能计算集群对 Qwen 3.6 的量化进行了基准测试,发现虽然知识得分保持稳定,但低精度格式显著降低了智能体能力。
- GPQA Diamond 结果显示不同量化级别之间的变化极小。
- Terminal-Bench 2 得分在低精度量化中表现出显著的回退。
- 由于超时设置较短(10 分钟到 1 小时 vs. 3 小时),结果低于 Qwen 官方的 FP8 基准测试。
- 多次运行揭示了相当大的得分波动,其中一次表现不佳的高精度运行可能不如一次表现良好的低精度运行。
这些发现帮助用户理解在智能体任务与知识保留之间进行量化时的权衡。