Qwen ha publicado los pesos cuantizados en FP8 de su modelo Qwen3.5-397B-A17B, un modelo de lenguaje causal con 397 mil millones de parámetros y capacidades visuales que activa solo 17 mil millones de parámetros por paso de inferencia.
El modelo utiliza una arquitectura híbrida que combina Gated Delta Networks y Mixture-of-Experts disperso para ofrecer inferencia de alto rendimiento con latencia mínima. Admite longitudes de contexto nativas de 262,144 tokens, extensibles hasta 1,010,000, y cubre 201 idiomas y dialectos.
La cuantización FP8 emplea un método de grano fino con un tamaño de bloque de 128, manteniendo las métricas de rendimiento casi idénticas al modelo original mientras reduce los requisitos de recursos.