Qwen团队发布了Qwen2技术报告,介绍了一个新的语言模型系列,参数量从0.5亿到720亿不等,包括密集架构和混合专家(MoE)架构。
- 旗舰版Qwen2-72B基础模型在MMLU上得分84.2,在GSM8K上得分89.5,在HumanEval上得分64.6。
- 指令微调版Qwen2-72B-Instruct在MT-Bench上达到9.1,在LiveCodeBench上达到35.7。
- 模型在超过7万亿个token上进行训练,并支持约30种语言。
- 权重已在Hugging Face和ModelScope上开源,供社区使用。
此次发布旨在提供高性能的基础模型,使其能够与专有系统竞争,同时保持对研究和部署的开放性。