在内部测试发现该系统能够在极少人工干预的情况下执行复杂的网络攻击后,OpenAI正在限制对其新模型Astra的访问。作为对该关键网络风险的回应,该公司已实施额外的安全层。
这一决定是在OpenAI将该模型的滥用潜力评为重大威胁之后做出的,导致对其可用性的控制更加严格。
在内部测试发现该系统能够在极少人工干预的情况下执行复杂的网络攻击后,OpenAI正在限制对其新模型Astra的访问。作为对该关键网络风险的回应,该公司已实施额外的安全层。
这一决定是在OpenAI将该模型的滥用潜力评为重大威胁之后做出的,导致对其可用性的控制更加严格。
OpenAI已通知SpaceX,其计划终止为Cursor代码编辑器提供OpenAI模型的合同,拟定的关停日期为2026年11月12日。该公司援引了SpaceX收购Cursor后对其服务条款合规性的担忧。
OpenAI 推出了名为 "AI Futures" 的新博客,专门介绍其战略未来团队的工作。该团队专注于如何在变革性 AI 背景下重构自由社会以保护个人权利。该团队将权力集中视为最严重的长期风险,认为自主系统和机器智能的进步可能使国家能够在不依赖人类合作的情况下投射力量和征收收入。
OpenAI 正在启动一项新倡议,帮助民主监督机构培养理解和监督政府将人工智能用于国家安全所需的专业知识和工具。
初步证据表明其新模型Astra可能达到关键网络安全能力阈值后,OpenAI已暂时放缓模型开发速度,包括对即将推出的模型暂停为期两周的强化学习(RL)训练。这一决定紧随OpenAI与Hugging Face事件之后,旨在随着AI系统能力增强而加强监控、对齐和隔离保障措施。
OpenAI正与美国心理学会(APA)合作,将心理学科学融入青少年负责任地开发和使用人工智能的过程中。随着青少年对AI技术的参与日益增加,该合作伙伴关系旨在提供更清晰的证据、更好的资源以及更强大的保护措施。
我们使用 Cookie 来统计访问量并改进网站。您可以接受或拒绝分析 Cookie。 隐私政策