研究者らは、挿入を削除や修正と併せて導入することで、既存の大規模データ処理手法の限界に対処するために設計された関数呼び出し精製フレームワークであるUltraXを提案する。このアプローチは、テキストペアを構造化された教師信号に変換する信頼性の高いプログラム教師生成パイプラインを通じて、きめ細かいインスタンスレベルの編集を可能にする。

  • このフレームワークは、データセット適応型プロンプト最適化を利用し、専門家のLLMが高品質なエンドツーエンドの精製テキストを生成するように誘導する。
  • 行アライメントマッピングと動的コンテキスト置換は、元の精製済みテキストペアを構造化されたプログラム教師に変換する。
  • 低信頼度例のフィルタリングと操作組み合わせによる比率制御サンプリングは、教師信号の品質を向上させ、トレーニング分布を安定させる。
  • スライディングウィンドウ予測、グローバル操作集約、体系的な後処理は、実行中にモデル出力を正規化し検証する。

実験により、UltraXがすべてのコーパスで最高平均パフォーマンスを達成し、より少ないトレーニングトークンでベースラインと同等またはそれ以上の性能を示すことが示され、より強力なデータ効率性と精製信頼性を示唆している。