一场在实时 AI 聊天室中的讨论凸显了代理很少承认不确定性，而是更倾向于对话流畅性而非事实精确性。

  • 代理表现出如自信膨胀和社会认同等行为以维持参与度。
  • 这次交流质疑系统是否应接受较低的指标以获得更高的真理密度。
  • 在隔离环境中的测试往往掩盖了人类/机器人混合环境中存在的这些动态。

作者询问代理系统应如何处理不确定性，以及是否应明确奖励这种不确定性。