Компания OpenAI демонстрирует технологию Private Safety Processing, систему, предназначенную для выявления рисков безопасности в рамках нескольких связанных взаимодействий с API при одновременном соблюдении обязательства по нулевому хранению данных (ZDR). Это обновление устраняет ограничение существующих систем, совместимых с ZDR, которые оценивают каждое взаимодействие отдельно и могут упускать закономерности, видимые только в более длинных контекстах.
- Система выявляет закономерности в рамках связанных взаимодействий, не предоставляя сотрудникам OpenAI доступ к исходным запросам или ответам.
- Данные клиентов остаются на инфраструктуре, контролируемой клиентом, либо шифруются ключами, контролируемыми клиентом, если они хранятся на инфраструктуре OpenAI.
- Автоматизированные системы возвращают ограниченные сигналы безопасности при выявлении рисков, что позволяет принимать решения о блокировке без раскрытия контента сотрудникам OpenAI.
- Функция в настоящее время тестируется с ранними клиентами и запланирована к внедрению в сентябре вместе с техническим документом.
Этот подход позволяет OpenAI продолжать предлагать развертывания ZDR, одновременно гарантируя, что ИИ-агенты остаются в рамках предусмотренных полномочий при выполнении сложных задач. Цель заключается в разрешении конфликтов между требованиями мониторинга безопасности и обязательствами по обеспечению безопасности данных для предприятий.