Thinking Machines Lab 推出了 Inkling,这是其首个完全发布的开源权重基础模型系列。Inkling 定位为可定制的 multimodal 基础模型,而非以基准测试为最高目标的旗舰产品,支持文本、图像和音频输入,具备原生多模态能力。

  • Inkling 是一个拥有 975B 参数的 Mixture-of-Experts 模型,每个 token 有 41B 个活跃参数,采用 Apache 2.0 许可证。
  • 该模型从零开始训练,使用了约 45T 个 token,并在开源权重检查点中支持长达 1M 的上下文长度。
  • 架构特性包括混合滑动窗口注意力、相对位置编码、短卷积层以及 Muon/AdamC 优化器。
  • Inkling 在 Intelligence Index 上以 41 分亮相,领先于 Nemotron 3 Ultra 和 Gemma 4 等美国开源权重发布版本。

此次发布通过 Tinker 提供即时的微调支持,并与 vLLM 和 Hugging Face 等工具保持广泛的生态系统兼容性。