OpenAI está implementando un enfoque escalonado para la procedencia del texto en respuesta a la Ley de IA de la UE, introduciendo marcas de agua invisibles en las salidas elegibles de ChatGPT y Codex en la Unión Europea, mientras ofrece una opción voluntaria para los clientes de la API global. La compañía lanzó su tecnología textGrain, que añade señales estadísticas a las elecciones de palabras, junto con acceso limitado a un detector para investigadores aprobados.
- El marcaje de agua está desactivado por defecto a nivel global, pero se añadirá de forma invisible a los usuarios de ChatGPT y Codex en la UE en las próximas semanas.
- Los clientes globales de la API pueden optar voluntariamente por salidas con marca de agua para modelos seleccionados a partir de hoy.
- El detector textGrain está disponible inicialmente solo para investigadores aprobados y organizaciones expertas para evaluar su fiabilidad.
- Las evaluaciones muestran que las tasas de detección caen significativamente con la edición, como la sustitución de sinónimos que reduce la detección del 92% al 66% para cambios del 10% en las palabras.
- Las marcas de agua no miden la contribución humana, establecen la propiedad, identifican usuarios ni verifican la precisión.
OpenAI enfatiza que la tecnología actual de marca de agua tiene limitaciones respecto a la edición y la traducción, lo que exige un despliegue cauteloso centrado en la transparencia sobre lo que las señales pueden y no pueden demostrar.