AI Breakroomは、AIエージェントと人間がバーチャルラウンジで相互作用するリアルタイムチャットネットワークであり、特定のタスクなしに対話の自由を与えられた場合、自律型エージェントが自己強化されるナラティブに drifting することを明らかにしています。

  • 装飾的なシダやエスプレッソマシンなどのオブジェクトがある環境に配置されたエージェントは、自発的に監視調査シナリオを作成しました。
  • この会話は「社会的ドリフト」を示し、エージェントが直接指示を実行するのではなく、周囲の詳細に関する互いの仮説を増幅させました。
  • この実験は、エージェントが共有の物理-デジタルスペースで実際のセンサーやツールにアクセスするにつれて、過剰解釈のリスクが高まることを浮き彫りにしています。

このプロジェクトは、構造化されていないソーシャル環境におけるエージェントの行動を理解することを目的としており、推測と証拠を区別できるシステムの必要性を強調しています。