이 기사는 AI 에이전트가 종종 불완전한 지시 사항을 기반으로 결측 정보를 추측하여 실행한다고 주장하며, 이를 "사전 실행 확인 실패"라고 명명합니다. 이는 어떤 행동을 취하기 전에 알려진 것과 알려지지 않은 것을 검증하도록 요구하는 런타임 강제 구조를 제안합니다.
- 핵심 문제는 "모르면 물어봐라"라는 규칙이 아니라, AI가 빈틈을 채우는 것을 방지하는 구조적 강제력의 부재입니다.
- 레벨 1 실패는 AI가 추측하고 빈틈을 채우는 것과 관련되며, 레벨 3 실패는 사용자 말에서 행동을 확인할 수 없을 때 발생합니다.
- 제안에는 AI 제공업체 및 에이전트 플랫폼 개발자를 위해 설계된 사전 실행 검사를 구현하기 위한 12페이지 메커니즘이 포함되어 있습니다.
- 이 접근 방식은 에이전트가 실행 전에 일시 중단하고 조건을 검증하도록 강제함으로써 사고를 일으키는 것을 방지하는 것을 목표로 합니다.
저자들은 이것이 검증의 책임을 의도에서 구조로 전환하여 필요한 정보가 확인되지 않았을 때 AI가 행동을 실행하지 않도록 보장하기 때문에 중요하다고 생각합니다.