中国公司腾讯发布了 Hy4 Preview，这是一个开放权重的纯文本输入大型语言模型，具有 7700 亿总参数和 490 亿活跃参数。此次发布大幅扩展了此前 7 月发布的 Hy3 模型，后者拥有 295B 总参数和 256,000 token 的上下文窗口。

  • 该模型支持 100 万 token 的上下文窗口。
  • 它仅支持文本，不具备视觉能力。
  • 聊天模板强制执行两种推理努力级别：“high”（默认）和“no_think”（推理禁用）。

文章通过生成一只骑自行车的鹈鹕的 SVG 图像来展示模型的能力，并提到了关于头盔和太阳镜等设计选择的内部推理过程。