Tencent a open-sourcé Hy3, un modèle Mixture-of-Experts de 295 milliards de paramètres comportant 21 milliards de paramètres actifs, suite aux retours de plus de 50 équipes produit. Cette version inclut à la fois les poids standard et les poids quantisés FP8 sur Hugging Face, ModelScope, GitCode et CNB.

  • Hy3 surpasse largement les modèles de taille similaire et rivalise avec les modèles open-source phares disposant de 2 à 5 fois plus de paramètres.
  • Les taux d'hallucination ont chuté de 12,5 % à 5,4 %, et les taux d'erreurs de bon sens sont passés de 25,4 % à 12,7 % grâce à un nettoyage des données finement granulaire.
  • Les problèmes de suivi d'intention multi-tours ont diminué de 17,4 % à 7,9 %, tandis que les scores aux benchmarks de dialogue long sont montés de 42,9 % à 75,1 %.
  • Les taux de succès des appels d'outils et la récupération d'erreurs se sont améliorés, maintenant la variance de précision dans une marge de 4 % sur des échafaudages tels que CodeBuddy et Cline.
  • Le modèle est disponible sous la licence Apache 2.0 pour un déploiement via vLLM ou SGLang avec des API compatibles OpenAI.

Ces améliorations positionnent Hy3 comme une option fiable et rentable pour les tâches de productivité telles que le codage, le traitement de documents et l'analyse financière.