turboquant v0.3.0 修复了 llama.cpp 中影响 P100 fp16 精度的错误

turboquant 项目发布了 0.3.0 版本，其中包含一个三行补丁，修正了 llama.cpp CUDA 代码中长期存在的精度问题，该问题影响了 Tesla P100 GPU。

• 该修复将针对 sm_61 架构的现有豁免扩展至包括 sm_60 (Pascal P100)，强制使用正确的 fp16 数学运算，而非之前的错误路径。
• 在 Qwen3.6-27B 上的基准测试显示，中位数 KL 散度从 0.0023 改善至 0.000001，top-token 一致性从 96.5% 提升至 99.9%。
• 性能基准测试表明，解码速度提高了约 1.4%，而预填充速度在噪声范围内保持不变。
• 已验证该补丁对其他架构（如 Volta、Ampere 或 Blackwell）零影响，这些架构使用不同的内核。

此更新显著提高了 Tesla P100 用于本地 LLM 推理的准确性和价值，解决了一个此前降低输出质量但未提供性能优势的错误。