Tencent은 50개 이상의 제품 팀의 피드백을 반영하여 21B의 활성 파라미터를 가진 295B 파라미터 Mixture-of-Experts 모델인 Hy3를 오픈소스로 공개했습니다. 이번 릴리스에는 Hugging Face, ModelScope, GitCode 및 CNB에서 제공되는 표준 가중치와 FP8 양자화된 가중치가 모두 포함됩니다.

  • Hy3는 유사한 크기의 모델을 크게 능가하며, 파라미터 수가 2~5배 더 많은 플래그십 오픈소스 모델과 경쟁합니다.
  • 세밀한 데이터 클리닝을 통해 환각 발생률이 12.5%에서 5.4%로, 상식 오류율이 25.4%에서 12.7%로 감소했습니다.
  • 다중 턴 의도 추적 문제가 17.4%에서 7.9%로 줄어들었고, 긴 대화 벤치마크 점수는 42.9%에서 75.1%로 상승했습니다.
  • 도구 호출 성공률과 오류 복구가 개선되어 CodeBuddy 및 Cline과 같은 스캐폴드 간 정확도 분산을 4% 이내로 유지했습니다.
  • 이 모델은 Apache License 2.0 하에 제공되며, OpenAI 호환 API를 통해 vLLM 또는 SGLang을 사용하여 배포할 수 있습니다.

이러한 개선으로 인해 Hy3는 코딩, 문서 처리 및 금융 분석과 같은 생산성 작업에 대해 신뢰할 수 있고 비용 효율적인 옵션으로 자리 잡았습니다.