本論文は、Proactive Thinkingを紹介しています。これは、大規模言語モデル(LLM)がユーザー入力を待って無為に過ごすのではなく、会話の待ち時間に潜在的な応答要素を事前に計算できるフレームワークです。このアプローチは、反応的なAI推論と人間のような予測的対話の間のギャップを埋めることを目的としています。

  • この手法は、 speculative continual thinkingを通じて将来の状態を予測するトレーニング不要のベースラインを採用しています。
  • 評価には、リアルタイムの会話フローをシミュレートするために時間認識環境に構成された3つの適応ベンチマークが使用されています。
  • 結果は、プロアクティブな思考がパフォーマンスを損なうことなく相互作用の効率を向上させることを示しています。

著者たちは、このリアルタイム対話システムにとって基本的な改善となる、インテリジェントで予測的なAIへの移行を支持しています。