L'entreprise chinoise Tencent a lancé Hy4 Preview, un modèle de langage large à entrée textuelle et poids ouverts, comportant 770 milliards de paramètres totaux et 49 milliards de paramètres actifs. Cette sortie élargit considérablement le modèle Hy3 précédent de juillet, qui disposait de 295B de paramètres totaux et d'une fenêtre de contexte de 256 000 tokens.
- Le modèle prend en charge une fenêtre de contexte de 1 million de tokens.
- Il est textuel uniquement, sans capacités de vision.
- Le template de chat impose deux niveaux d'effort de raisonnement : "high" (par défaut) et "no_think" (raisonnement désactivé).
L'article démontre les capacités du modèle en générant une image SVG d'un pélican à vélo, en notant son processus de raisonnement interne concernant des choix de design tels que les casques et les lunettes de soleil.