研究者らは、エージェントのホライズンをスケールアップすることで、パラメータ数ではなくパフォーマンスをトリリオン・パラメータモデルに匹敵するものとする35B Mixture-of-Expertsモデル「Agents-A1」を発表した。このアプローチは、長期ホライズンの軌道（trajectories）の延長と、特殊なトレーニングインフラストラクチャを通じて多様なエージェント能力を統合することに重点を置いている。

  • Agents-A1は、平均45Kトークンのアジェンティック・トラジェクトリを生み出す長期ホライズンの知識・行動インフラストラクチャを利用している。
  • トレーニングは3段階のレシピに従う：フルドメイン教師ありファインチューニング、ドメインレベルでのティーチャーモデルのトレーニング、マルチティーチャーによるドメインルーティングされたオンポリシー蒸留。
  • このモデルは、顕著な語彙アライメントを用いて効率的な知識転送を行い、6つの異種ドメインを単一のデプロイ可能なスチューデントモデルに統合する。
  • Agents-A1は、SEAL-0（56.4）、IFBench（80.6）、HiPhO（46.4）、FrontierScience-Olympiad（79.0）、MolBench-Bind（56.8）などのベンチマークにおいて、Kimi-K2.6やDeepSeek-V4-proのようなトリリオン・パラメータモデルを上回るパフォーマンスを示した。

この研究は、エージェントのホライズンをスケールアップするための実用的な道筋を提供し、35Bモデルが長期ホライズンのタスクにおいて大幅に大きなモデルと同等のパフォーマンスを発揮できることを示している。