A OpenAI está antecipando o Processamento Privado de Segurança, um sistema projetado para identificar riscos de segurança em múltiplas interações de API relacionadas sem reter prompts dos clientes ou respostas do modelo. Esta atualização apoia a promessa de Retenção Zero de Dados (ZDR) da empresa, permitindo que sistemas automatizados detectem padrões em intenções potencialmente prejudiciais, ao mesmo tempo que garante que o pessoal da OpenAI nunca acesse o conteúdo subjacente.
- O sistema avalia padrões em interações relacionadas, em vez de avaliar cada interação individualmente, abordando riscos que surgem ao longo de tarefas complexas ou de sondagens coordenadas.
- O conteúdo do cliente permanece na infraestrutura controlada pelo cliente ou é armazenado na infraestrutura da OpenAI criptografado com chaves controladas pelo cliente.
- Quando um risco é identificado, a OpenAI recebe apenas um sinal estreitamente definido indicando o tipo de atividade, sem acesso ao conteúdo sinalizado.
- O recurso está atualmente sendo testado com clientes iniciais e está planejado para lançamento em setembro junto com um documento técnico.
Esta abordagem visa resolver conflitos entre requisitos de monitoramento de segurança e obrigações de segurança empresarial, garantindo que dados sensíveis, como registros financeiros ou dados de saúde, permaneçam sob controle do cliente enquanto mantém salvaguardas eficazes.