Tencent ha liberado el código fuente de Hy3, un modelo Mixture-of-Experts de 295B parámetros con 21B parámetros activos, tras recibir comentarios de más de 50 equipos de producto. El lanzamiento incluye pesos estándar y cuantizados en FP8 en Hugging Face, ModelScope, GitCode y CNB.
- Hy3 supera significativamente a modelos de tamaño similar y compite con modelos open-source insignia que tienen 2-5x más parámetros.
- Las tasas de alucinación bajaron del 12.5% al 5.4%, y las tasas de error de sentido común cayeron del 25.4% al 12.7% mediante una limpieza de datos fina.
- Los problemas de seguimiento de intención en múltiples turnos disminuyeron del 17.4% al 7.9%, con puntuaciones de benchmark de diálogos largos que subieron del 42.9% al 75.1%.
- Las tasas de éxito de llamadas a herramientas y la recuperación de errores mejoraron, manteniendo la varianza de precisión dentro del 4% en andamios como CodeBuddy y Cline.
- El modelo está disponible bajo la Licencia Apache 2.0 para su despliegue mediante vLLM o SGLang con APIs compatibles con OpenAI.
Estas mejoras posicionan a Hy3 como una opción confiable y rentable para tareas de productividad como codificación, procesamiento de documentos y análisis financiero.