Deutsche Telekom 发布了 Soofi S 30B-A3B，这是一个针对德语和英语优化的主权开源混合专家（Mixture-of-Experts）基础模型。该模型构建于 German Industrial AI Cloud 之上，随着上下文的增长，它仅激活 300 亿参数中的 30 亿个，以维持近乎恒定的推理缓存。

  • 在约 27 万亿个 token 上预训练，并提高了德语数据的权重。
  • 在英语和德语的综合基准测试中，表现与 14B 至 27B 的密集模型相当。
  • 在 17 个开源基础模型中，在这两种语言上的代码综合表现最佳。
  • 优于所有欧洲主权基线模型，包括那些拥有更大活跃参数量的模型。
  • 在所有完全开源模型中，获得了最高的英语和德语评估分数，领先于 Olmo 3 32B 和 Apertus 70B。

此次发布包含在高度宽松条款下的权重、中间检查点、数据记录、超参数和训练代码。