OpenAI está presentando el Procesamiento Privado de Seguridad, un sistema diseñado para identificar riesgos de seguridad en múltiples interacciones de API relacionadas sin retener los prompts de los clientes ni las respuestas del modelo. Esta actualización respalda la promesa de Retención Cero de Datos (ZDR) de la empresa al permitir que los sistemas automatizados detecten patrones en intenciones potencialmente dañinas, garantizando al mismo tiempo que el personal de OpenAI nunca acceda al contenido subyacente.
- El sistema evalúa patrones a través de interacciones relacionadas en lugar de evaluar cada interacción individualmente, abordando riesgos que emergen en tareas complejas o desde sondeos coordinados.
- El contenido del cliente permanece en la infraestructura controlada por el cliente o se almacena en la infraestructura de OpenAI cifrada con claves controladas por el cliente.
- Cuando se identifica un riesgo, OpenAI recibe solo una señal estrechamente definida que indica el tipo de actividad, sin acceso al contenido marcado.
- La función se está probando actualmente con clientes iniciales y está prevista para su lanzamiento en septiembre junto con un documento técnico.
Este enfoque busca resolver conflictos entre los requisitos de monitoreo de seguridad y las obligaciones de seguridad empresarial, asegurando que datos sensibles como registros financieros o datos de salud permanezcan bajo el control del cliente mientras se mantienen salvaguardas efectivas.