Китайская компания Tencent выпустила Hy4 Preview, модель большого языка с открытыми весами для текстового ввода, имеющую 770 миллиардов общих параметров и 49 миллиардов активных параметров. Этот релиз значительно расширяет предыдущую модель Hy3 от июля, которая имела 295B общих параметров и контекстное окно на 256 000 токенов.

  • Модель поддерживает контекстное окно на 1 миллион токенов.
  • Она работает только с текстом, без возможностей восприятия изображений.
  • Шаблон чата предусматривает два уровня усилий рассуждения: "high" (по умолчанию) и "no_think" (рассуждение отключено).

В статье демонстрируются возможности модели путем генерации SVG-изображения пеликана, едущего на велосипеде, с упоминанием внутреннего процесса рассуждений относительно выбора дизайна, такого как шлемы и солнцезащитные очки.