중국 기업 Tencent는 총 7700억 개의 매개변수와 490억 개의 활성 매개변수를 특징으로 하는 오픈 가중치 텍스트 입력 대규모 언어 모델인 Hy4 Preview를 출시했습니다. 이번 릴리스는 총 295B의 매개변수와 256,000 토큰 컨텍스트 창을 가진 이전 7월 Hy3 모델을 크게 확장합니다.

  • 모델은 100만 토큰 컨텍스트 창을 지원합니다.
  • 비전 기능 없이 텍스트 전용입니다.
  • 채팅 템플릿은 두 가지 추론 노력 수준을 강제합니다: "high" (기본값) 및 "no_think" (추론 비활성화).

기사는 헬멧과 선글라스와 같은 디자인 선택에 대한 내부 추론 과정을 언급하며 자전거를 타고 있는 펠리컨의 SVG 이미지를 생성하여 모델의 능력을 시연합니다.