本文讨论了美国在AI安全方面的新立法努力，特别是Trahan和Obernolte众议员提出的FRONTIER法案，该法案将现有的州级模型报告和风险定义框架联邦化。同时，Lieu和Moran参议员提出了AI紧急停止法案，要求高级模型具备强制关机功能，而OpenAI首席执行官Sam Altman访问华盛顿，向白宫预览GPT-6并讨论自愿测试框架。

  • FRONTIER法案设立了一个拥有紧急关机权限的商务部AI安全副部长职位，但缺乏具有约束力的灾难性风险降低要求，并优先于州法律。
  • AI紧急停止法案要求受管制的实体在请求或危机时关闭模型推理，每天罚款高达2000万美元，但豁免了开放权重模型。
  • Altman与包括Lutnick和Bessent在内的官员会面，表示OpenAI支持强制部署前测试和联邦独立审计，同时强调控制AI发展节奏的重要性。
  • Nvidia的Jensen Huang倡导开放模型以阻止监管行动，而参议员Warner则警告不要在没有护栏的情况下“全速前进”。

文章强调了在监管前沿实验室与保护开源生态系统之间的持续紧张关系，指出目前的法案难以在安全要求与不受限制的模型分发带来的固有风险之间取得平衡。