AI评估论坛发布了AEF-1,这是一项针对独立第三方AI评估的提案基线,涵盖访问权限、利益冲突、资金关系、回避制度和透明度。该标准的推出与Dario Amodei提出的前沿AI公司承诺为嵌入式第三方评估人员提供持续、类似员工的访问权限的提议同步进行。

  • AEF-1确立了独立性要求,包括关于利益冲突和资金的规定。
  • Anthropic单方面承诺向其安全团队提供无与伦比的访问权限,包括办公座位和内部工具。
  • 更广泛的辩论涉及呼吁控制进展节奏与专注于控制和 containment(遏制)之间的权衡。
  • GitHub在Copilot/Codex工作流中添加了自动模型选择层级。
  • Cline推出了用于处理开放权重模型的本地桌面应用程序。

AEF-1的发布标志着行业向规范化自我监管和独立验证迈出一步。