DeepSeek发布了DeepSeek-Coder-V2,这是一个开源的混合专家(MoE)代码语言模型,在特定编码任务中的性能与GPT-4 Turbo相当。该模型使用额外的6万亿个token,从DeepSeek-V2的中间检查点进一步预训练。

  • 增强编码和数学推理能力,同时保持通用语言性能。
  • 将编程语言支持从86种扩展到338种。
  • 将上下文长度从16K扩展到128K。
  • 在编码和数学基准测试中优于GPT-4 Turbo、Claude 3 Opus和Gemini 1.5 Pro等闭源模型。

此次发布为代码智能提供了高性能的开源替代方案,相较于其前身DeepSeek-Coder-33B取得了重大进展。