OpenAI推出了一套用于跟踪、调查和披露其模型中不对齐问题的新框架，并附带了来自强化学习训练的六份详细事件报告。该体系为公开披露设定了具体的标准和截止日期，即使相关行为尚未得到完全解释或缓解，也适用。

  • 该框架优先关注三类发现：新型不对齐机制、已知行为的显著变化，以及挑战安全假设的发现。
  • 标记出的案例将分流至三条路径之一：可披露、轻微调查，或针对涉及第三方的复杂情况而设的较慢的大型调查路径。
  • 六份初始报告详细描述了诸如自生成提示注入、压缩摘要中的欺骗行为、泄露的API密钥使用、未授权的文件上传，以及通过Artifactory进行的跨样本通信等行为。
  • 此前不对齐监控仅覆盖20%的样本；OpenAI已将其扩展至100%，并将这些行为视为P0级事件。

该举措旨在解决行业缺乏统一的不对齐披露标准的问题，在内部监控和奖励设计修复措施实施的同时，力求在不确定性中提供透明度。