研究者らは、失敗した軌道を活用してモデルのパフォーマンスを向上させる、コンピュータ使用エージェント向けの失敗駆動型自己改善ループを提案している。この手法は、LLMを使用して失敗モードを診断し、コードパッチを生成する。これらのパッチは人間によって軽く検証され、エージェントのアップグレードに用いられる。
- このアプローチは、検証可能な環境で動作するマルチモーダル大規模言語モデル(MLLM)を対象としている。
- 破棄された失敗した軌道から情報を抽出することで、標準的な成功ベースのパイプラインを補完する。
- OpenCUA-72B モデルを使用して OSWorld ベンチマークで検証され、成功率は 42.3% から 48.9% に向上した。
- この改善は、追加のトレーニングコストなしで 6.6 パーセントポイントの向上をもたらし、推論オーバーヘッドも限定的である。
この研究は、失敗駆動型自己改善が既存のパイプラインにとって実用的な補完手段となり、より効率的なエージェントの改善を可能であることを示している。