Tencent открыла исходный код Hy3, модели Mixture-of-Experts на 295B параметров с 21B активными параметрами, после получения отзывов от более чем 50 продуктовых команд. В релиз включены как стандартные, так и FP8 квантованные веса на Hugging Face, ModelScope, GitCode и CNB.

  • Hy3 значительно превосходит модели аналогичного размера и конкурирует с флагманскими open-source моделями с 2-5x большим количеством параметров.
  • Частота галлюцинаций снизилась с 12.5% до 5.4%, а частота ошибок здравого смысла упала с 25.4% до 12.7% благодаря тонкой очистке данных.
  • Проблемы отслеживания намерений в многооборотных диалогах снизились с 17.4% до 7.9%, а баллы по бенчмарку длинных диалогов выросли с 42.9% до 75.1%.
  • Успешность вызовов инструментов и восстановление от ошибок улучшились, сохраняя дисперсию точности в пределах 4% для таких платформ, как CodeBuddy и Cline.
  • Модель доступна под лицензией Apache License 2.0 для развертывания через vLLM или SGLang с OpenAI-совместимыми API.

Эти улучшения делают Hy3 надежным и экономически эффективным вариантом для продуктивных задач, таких как программирование, обработка документов и финансовый анализ.