本記事は、Harness-Native agentic routing（ハーネスネイティブなエージェント型ルーティング）を提案しています。これは、単発のコストと品質のトレードオフを最適化するのではなく、完全な実行ハーネスの状態に基づいてモデルを選択するステップレベルのパラダイムです。このアプローチでは、すべてのルーティング判断を構造化されたデータレコードとして扱い、実行トレースがより優れたルーターやモデルを訓練することで、harness-nativeなデータフライホイールを形成します。

  • システムは、OpenSquillaにおいて、4層のルーティングスタック、オープンソースのLightGBMコールドスタートランカー、および段階的なルーター・モデルパスを使用して実装されています。
  • コスト効率の高い実行には単一の最適適合モデルを、アンサンブル方式の精度向上には複数の補完的モデルを選択可能にします。
  • 本レポートは、DRACOやPinchBenchなどのエージェント型ベンチマークにおいて、シングルトンおよびマルチモデルルーティングを評価しています。

著者らは、エージェント型ルーティングがエージェントネイティブな訓練のためのデータエンジンとして機能し、同じ予算内でより多くのトレースを生成することでコストと品質のトレードオフを改善すると主張しています。