作者发布了执行治理 AI(EGA)V9,这是一个开源运行时框架,旨在在自主 AI 智能体行动之前对其进行确定性治理。EGA V9 并非替换现有的 LLM 或智能体框架,而是添加了一个单独的层,用于验证工作流、评估信任状态,并在违反预定义治理条件时触发关闭式隔离。
- 实现方法和方法论已在 GitHub 和 Zenodo 上公开。
- 在针对特定威胁模型和实验条件的报告评估中,该系统以 0% 的假阳性和 0% 的假阴性检测到了 100% 的注入攻击。
- 作者明确指出这些结果仅适用于定义的范围,并未声称能普遍防护所有自主智能体攻击。
- 该帖子邀请社区通过复现、对抗性测试和实施批评来尝试突破执行治理边界。
该框架旨在解决在调用工具和 API 的智能体中维持可信运行时执行的挑战,同时不牺牲性能或运营成本。