Unsloth lanza cuantizaciones NVFP4 de Qwen3.6 2,5 veces más rápidas con caché KV FP8

Unsloth ha lanzado cuantizaciones NVFP4 optimizadas para los modelos Qwen3.6, logrando mejoras significativas de velocidad frente a las implementaciones estándar NVFP4 de NVIDIA sin degradación de la precisión.

• Qwen3.6 27B se ejecuta 2,5 veces más rápido utilizando núcleos tensoriales W4A4 en comparación con el enfoque W4A16 de NVIDIA.
• Qwen3.6 35B-A3B ofrece dos variantes: NVFP4-Fast (1,79 veces más rápido) y NVFP4 estándar (1,56 veces más rápido).
• Incluye calibración de caché KV FP8, permitiendo contextos dos veces más largos.
• Las pruebas en MMLU-Pro, GPQA y AIME 2025 muestran un rendimiento comparable o superior frente a las líneas base NVFP4, FP8 y BF16 de NVIDIA.

Estas actualizaciones permiten a los usuarios implementar modelos Qwen3.6 con mayor capacidad de procesamiento y ventanas de contexto extendidas mientras mantienen una precisión competitiva.