本文介绍了 Thomson，一款由 SovereignAI 开发的全能前沿模型，展示了机构如何通过针对现成开放权重模型进行持续学习来实现前沿性能。该方法利用现代的中期和后期训练堆栈，并配备保障措施以维持可塑性和稳定性，从而实现对参数的高影响干预最小化。

  • Thomson 在代理任务、安全性、法律、税务、多语言能力和大规模深度研究等方面与近期前沿模型的表现相当。
  • 评估结果显示，在包括未明确针对的能力在内的广泛能力范围内，改进呈现出独特的 π 形模式。
  • 该方法几乎完全消除了窄域适应中常见的遗忘问题。
  • 该方法所需的计算和人员预算远低于普遍认知，使得更多参与者能够负担得起 SovereignAI 堆栈的所有权。

通过利用持续学习而非微调或提示工程等有限方法，本研究认为，在多样化的资金条件下，广泛类型的机构均可实现前沿性能。