Un usuario de Reddit llevó a cabo una segunda ronda del "Döner Bench" para comparar cómo diferentes niveles de cuantización afectan las capacidades de generación de código de los modelos Qwen 3.6 y Gemma 4.

  • La prueba consistió en generar un archivo HTML con una animación de lienzo de un pincho de kebab giratorio utilizando prompts idénticos para cada variante del modelo.
  • Los resultados se recopilaron ejecutando cada combinación de modelo y cuantización nueve veces, seleccionando el mejor resultado subjetivo mientras se descartaban bucles o tiempos de espera.
  • Qwen 3.6 27B IQ2 M produjo algunos de los mejores resultados a pesar de una menor fidelidad, mientras que Gemma 4 31B mostró estabilidad incluso con cuantización IQ2 baja.
  • Tasas de bits más altas como Q8 K XL generalmente preservaban más "matices" en la animación, mientras que bits más bajos como IQ2 causaban artefactos visuales o inestabilidad.

La comparación destaca cómo la cuantización impacta la calidad del código generado y el renderizado para LLMs locales.