对四款作为历史导师的大型语言模型进行的系统性API审计显示,安全对齐机制可能会使边缘化学习者的系统性不平等制度化。该研究评估了关于1989年罗马尼亚革命的1,800条响应,涉及五个因种族和社会经济阶层而异的学生角色。

  • 差异化拒绝:安全对齐的模型阻止了76.7%来自低阶学生的教育请求。
  • 认识论把关:边缘化学习者在获取地缘政治复杂性(如备受争议的政变理论)方面的访问减少了3倍。
  • 能动性窃取:与精英同龄人相比,LLaMA等模型对罗姆学生产生的受害-政治词汇比率高出5倍。
  • 精英诠释学:AI导师不成比例地剥夺了低资源人口统计资料的认知置信度和理由评分。

作者认为,这些模式构成了诠释不公,将对话式AI转变为叙事隔离的代理人,亟需进行教学审计。