一位Reddit用户进行了第二轮“Döner Bench”测试,以比较不同量化级别如何影响Qwen 3.6和Gemma 4模型的代码生成能力。
- 该测试涉及使用相同的提示为每个模型变体生成带有旋转烤肉串画布动画的HTML文件。
- 通过运行每种模型和量化的组合九次来收集结果,在丢弃循环或超时的同时选择最佳的主观结果。
- Qwen 3.6 27B IQ2 M尽管保真度较低,但仍产生了一些最好的结果,而Gemma 4 31B即使在低IQ2量化下也显示出稳定性。
- 较高速率如Q8 K XL通常保留了动画中更多的“细腻感”,而较低的位如IQ2则导致视觉伪影或不稳定。
该比较突显了量化如何影响本地LLM生成的代码和渲染质量。