本記事では、Open-Ended Optimization (OEO) というフレームワークを紹介しています。これは、事前定義された最適化パイプラインに依存するのではなく、最先端のモデルオプティマイザーがオンラインで自身の改善プロセスを動的に構築できるようにするものです。著者たちは、8つのベンチマーク・ターゲット・モデルの設定において14回の直接比較を通じて、OEOを2つの段階的アプローチであるSkillOptおよびGEPAと比較しました。

GPT-5.5によるOEOは12勝、1分、0.21パーセントポイントの僅差で1敗という結果でした。また、SkillOptが設定したターゲット対話トークン予算の中央値34.3%のみを利用しました。制御実験により、この成果が単なる事前駆動型書き換えによるものではないことが確認されました。しかし、このアプローチには能力の限界があり、中規模オプティマイザーではSkillOptがOEOを上回り、小規模オプティマイザーは変更されていないOEOインターフェースを通じて操作できませんでした。

これらの知見は、事前定義されたパイプラインを能力依存の足場として再考させるものであり、本質的な制約が外部に残る一方で、十分に高度なオプティマイザーはフィードバックから改善への経路を自ら構築できることを示唆しています。