OpenAI는 Zero Data Retention (ZDR) 약속을 유지하면서 여러 관련 API 상호작용 전반의 안전 위험을 식별하도록 설계된 시스템인 Private Safety Processing를 미리 선보이고 있습니다. 이 업데이트는 각 상호작용을 개별적으로 평가하는 기존 ZDR 호환 시스템의 한계를 해소하며, 이는 더 긴 컨텍스트에서만 드러나는 패턴을 놓칠 수 있습니다.
- 해당 시스템은 OpenAI 직원들이 기본 프롬프트나 응답에 접근하지 못하도록 하면서 관련 상호작용 전반의 패턴을 식별합니다.
- 고객 콘텐츠는 고객이 통제하는 인프라에 남아 있거나, OpenAI 인프라에 저장될 경우 고객이 통제하는 키로 암호화됩니다.
- 위험이 감지되면 자동화된 시스템은 제한된 안전 신호를 반환하여, 콘텐츠를 OpenAI 직원에게 노출하지 않고도 집행 결정을 내릴 수 있습니다.
- 해당 기능은 현재 초기 고객과 함께 테스트 중이며, 9월 기술 백서와 함께 출시될 예정입니다.
이 접근 방식은 OpenAI가 ZDR 배포를 계속 제공하면서 복잡한 작업 중에도 AI 에이전트가 의도된 권한 범위 내에 머물도록 보장합니다. 이는 민감한 데이터와 관련된 안전 모니터링 요구사항과 기업 보안 의무 간의 갈등을 해소하는 것을 목표로 합니다.