제약을 통한 조종 가능성이 코딩 에이전트의 오버사이트 리콜을 90.9%로 향상

전통적인 엔지니어링 제어(액세스 정책 및 엄격한 관례 포함)를 코딩 에이전트에 적용하면 무제약 접근 방식과 비교하여 확장 가능한 인간 오버사이트가 크게 향상됨을 연구가 입증했습니다.

• 연구진은 11개의 백도어가 삽입된 Python 코드베이스에 대해 약 200줄의 `docs` CLI가 있는 제약 기반 구조를 구현했습니다.
• 소규모 리뷰어 모델(Gemma 4 e4b)은 제약 시스템을 사용하여 리콜률 90.9%를 달성했으며, 도구 없는 무제약 시나리오의 54.5%에서 향상되었습니다.
• 실험 결과, 기반 구조와 도구가 모두 검출 능력 향상에 독립적으로 기여하는 것으로 나타났습니다.

이 접근 방식은 확립된 팀 관리 원칙을 활용하여 최근의 에이전틱 스캐폴딩 방법보다 저렴한 대안을 제공합니다.