本記事は、現在のLLMエージェントが暗黙的な結果認識を持って行動することが多く、それが帰結的なタスクには不十分であると主張しています。エージェントが実行前にリスクをモデル化し、影響を予測できるようにするために、「明示的な予知」が必要なアーキテクチャレイヤーとして提案されています。

  • この概念は、有界な認知行為（COGITs）で構成されるSYLLOGを使用するORCA認知ランタイムを通じて実装されます。
  • アクション前点検SYLLOGは、リクエストの正規化、アクションのモデル化、制約の特定、不確実性の抽出、リスク評価、結果の予測、代替案の生成、意思決定の選択というステップに推論を分解します。
  • このアプローチは、あいまいなプロンプト指示ではなく、明確な中間契約を持つ実行可能なプロセスとして提示されています。
  • 著者は、このランタイム強制認知について詳述した「Beyond Prompted Caution and Guardrails: Runtime-Enforced Pre-Action Cognition for Trustworthy LLM Agents」というタイトルの論文を発表しました。

著者たちは、信頼できるエージェントには、モデルの能力やプロンプトのパターンに依存するのではなく、重要な推論を明示的に要求できるアーキテクチャが必要であるため、これを重要視しています。