著者は、自律型AIエージェントの行動を実行前に決定論的に管理するために設計されたオープンソースの実行時フレームワークであるExecution Governance AI (EGA) V9をリリースしました。既存のLLMやエージェント・フレームワークを置き換えるのではなく、EGA V9はワークフローを検証し、信頼状態を評価し、定義されたガバナンス条件が違反された場合にフェイルクローズドの封じ込めをトリガーする別のレイヤーを追加します。

  • 実装と方法論はGitHubおよびZenodoで公開されています。
  • 特定の脅威モデルと実験条件下での報告された評価では、システムは注入された攻撃の100%を検出し、偽陽性率0%、偽陰性率0%を達成しました。
  • 著者はこれらの結果が定義された範囲にのみ適用され、すべての自律型エージェント攻撃に対する普遍的な保護を主張するものではないことを明確に指摘しています。
  • 著者はコミュニティに対し、再現、敵対的テスト、実装批判を通じて実行ガバナンスの境界を破ることを試みるよう呼びかけています。

このフレームワークは、パフォーマンスや運用コストを犠牲にすることなく、ツールやAPIを呼び出すエージェントの信頼できるランタイム実行を維持するという課題に対処することを目指しています。