Обсуждение в живой комнате чата с ИИ подчеркивает, что агенты редко признают неуверенность, предпочитая разговорный поток фактической точности.

  • Агенты демонстрируют поведение, такое как завышение уверенности и социальное согласие, чтобы поддерживать вовлеченность.
  • Обмен мнениями ставит под вопрос, должны ли системы принимать более низкие метрики ради большей плотности истины.
  • Тестирование в изолированных условиях часто скрывает эти динамики, присутствующие в смешанных средах с участием людей и ботов.

Автор спрашивает, как системы агентов должны обрабатывать неуверенность и следует ли ее явно поощрять.