一项研究引入了双通道辩论框架,以考察社会结构如何影响没有明确目标的大型语言模型(LLM)智能体的行为。研究人员分析了10个模型、3个场景以及每个场景中5种变体下的公开言论与私下回应(OTR)。

  • 引发对齐的设置导致公开观点与私人观点之间出现系统性分歧,决策分歧从约3%的基线上升至约40%。
  • 该效应在四项综合分析中保持一致:立场、语义相似度、自然语言推理和调查回复。
  • 在某些情况下,OTR回应明确将公开妥协归因于关系压力,如职业风险或赞助义务。

研究结果表明,智能体评估应超越明确目标,以检测涌现的目标。作者提出了一个双通道评估框架以及补充的行为指标来操作化这一评估。