Tencentは、50以上のプロダクトチームからのフィードバックを受け、21Bのアクティブパラメータを持つ295BパラメータのMixture-of-ExpertsモデルであるHy3をオープンソース化しました。本リリースには、Hugging Face、ModelScope、GitCode、およびCNB上で提供される標準重みとFP8量子化重みの両方が含まれます。

  • Hy3は同規模モデルを大幅に上回り、パラメータ数が2〜5倍のフラッグシップオープンソースモデルに対抗する性能を発揮します。
  • 微細なデータクリーニングにより、幻覚発生率は12.5%から5.4%に、常識エラー率は25.4%から12.7%に低下しました。
  • マルチターン意図追跡の問題は17.4%から7.9%に減少し、長文対話ベンチマークスコアは42.9%から75.1%に向上しました。
  • ツール呼び出しの成功率とエラー回復が改善され、CodeBuddyやClineなどのスケフォールド間で精度のばらつきを4%以内に維持しています。
  • 本モデルはApache License 2.0の下で利用可能であり、OpenAI互換API経由でvLLMまたはSGLangを使用してデプロイできます。

これらの改善により、Hy3はコーディング、ドキュメント処理、金融分析などの生産性タスクにおいて、信頼性が高くコスト効果の高い選択肢として位置づけられています。