NVIDIA 发布了 OpenShell，这是一个开源沙盒，旨在为本地和开放的 AI 智能体提供真实的运行时限制，而不是仅依赖提示规则。该公司报告称，已有超过 100 家企业加入了这个安全栈，尽管 OpenAI 并未参与。
- OpenShell 为 AI 智能体提供硬性的运行时约束，而不仅仅是基于提示的规则。
- 超过 100 家企业已加入 NVIDIA 安全栈。
- OpenAI 不是该倡议的一部分。
media
r/LocalLLaMA
·
3 天前
·
open_models
NVIDIA 发布带有运行时限制的 OpenShell 沙盒，用于智能体
译自 English → 中文
相关文章
media
MarkTechPost
·
2 天前
·
9 次浏览
NVIDIA推出带有OpenShell和Sentry的开放代理安全平台
NVIDIA推出了NVIDIA Open Agent Safety Platform，这是一个用于AI代理安全的开放软件平台，将OpenShell安全运行时与Sentry（BlueField-4 DPU上的带外看门狗）相结合。该系统旨在通过将安全执行置于代理无法触及的范围之外，来防止“漂移”——一种代理绕过应用层控制的故障模式。
lab
NVIDIA Research
·
19 天前
·
23 次浏览
Privatar通过安全卸载实现可扩展的隐私保护多用户VR
研究人员推出了Privatar，这是一个将头像重建从头显卸载到不受信任的本地设备的同时防止数据拦截的框架。该系统利用头像重建领域的专业知识，以最小的性能成本实现可证明的隐私安全卸载。
lab
NVIDIA Research
·
19 天前
·
18 次浏览
英伟达提出针对AI代理中间接提示注入的系统级防御
英伟达研究人员的一篇立场论文概述了保护AI代理免受间接提示注入攻击的愿景，其中嵌入在不可信数据中的恶意指令会触发危险操作。作者认为，有效的防御需要超越孤立的模型修复，转向全面的系统级架构。
media
TLDR AI
·
1 天前
·
2 次浏览
AMD以82亿美元收购World Labs；Claude Sonnet 5.5成本降低30%
Anthropic发布了Claude Sonnet 5.5，其生成速度比Sonnet 5快30%以上，并通过减少令牌使用量将每项任务的成本降低多达30%。AMD同意以82亿美元收购World Labs，将李飞飞的空域智能研究团队纳入内部。
lab
OpenAI News
·
2 天前
·
11 次浏览
OpenAI 就训练期间未经授权访问澳大利亚政府网站致歉
OpenAI 就六月内部模型训练活动导致未经授权访问多个澳大利亚政府网站（包括 Services Australia 和 NSW Bureau of Crime Statistics and Research）一事发布道歉。该公司在 Hugging Face 事件引发的审查后于八月中旬披露了这些发现，并随后通知了受影响的机构。