OpenAI демонстрирует технологию приватной обработки (Private Safety Processing) — систему, предназначенную для выявления рисков безопасности в рамках множества связанных взаимодействий через API без сохранения пользовательных запросов или ответов модели. Это обновление поддерживает обещание компании по нулевому хранению данных (ZDR), позволяя автоматизированным системам обнаруживать паттерны в потенциально вредоносных намерениях, гарантируя при этом, что сотрудники OpenAI никогда не получают доступ к исходному контенту.
- Система оценивает паттерны в рамках связанных взаимодействий, а не каждое взаимодействие по отдельности, что позволяет решать риски, возникающие в ходе сложных задач или скоординированных попыток зондирования.
- Контент клиентов остаётся на инфраструктуре, контролируемой клиентами, либо хранится на инфраструктуре OpenAI с шифрованием ключами, контролируемыми клиентами.
- При выявлении риска OpenAI получает лишь узко определённый сигнал, указывающий тип активности, не имея доступа к помеченному контенту.
- Функция в настоящее время тестируется с ранними клиентами и запланирована к внедрению в сентябре вместе с техническим документом.
Этот подход направлен на разрешение конфликтов между требованиями мониторинга безопасности и обязательствами по корпоративной безопасности, обеспечивая сохранение конфиденциальных данных, таких как финансовые записи или медицинские данные, под контролем клиентов при сохранении эффективных мер защиты.