DeepSeek目前正在训练一个拥有2万亿参数的新模型,并计划最终构建一个8万亿参数的模型。

  • 当前的DeepSeek Flash拥有5520亿参数。
  • DeepSeek Pro共有1.6万亿参数,每个token激活490亿权重。
  • Mythos / Fable模型的参数量估计为10万亿。