Aleph-Alpha 发布了 Kolibri-1，这是一款大型语言模型，在 Hugging Face 上以 Apache 2.0 许可证提供。

  • 该模型包含 780 亿总参数和 34.6 亿激活参数。
  • 它支持高达 100 万 token 的上下文窗口。
  • Aleph-Alpha 提供了详细描述模型架构和训练的技術报告。

此次发布为需要长上下文能力的用户提供了开放权重选项。