A OpenAI está implementando uma abordagem em fases para a proveniência do texto em resposta à Lei de IA da UE, introduzindo marcas d'água invisíveis nas saídas elegíveis do ChatGPT e Codex na União Europeia, ao mesmo tempo que oferece uma opção de adesão para clientes globais da API. A empresa lançou sua tecnologia textGrain, que adiciona sinais estatísticos às escolhas de palavras, juntamente com acesso limitado a um detector para pesquisadores aprovados.
- A marca d'água de texto está desativada por padrão globalmente, mas será adicionada invisivelmente aos usuários do ChatGPT e Codex na UE nas próximas semanas.
- Clientes globais da API podem optar por saídas com marca d'água para modelos selecionados a partir de hoje.
- O detector textGrain está disponível inicialmente apenas para pesquisadores aprovados e organizações especializadas para avaliar a confiabilidade.
- As avaliações mostram que as taxas de detecção caem significativamente com a edição, como a substituição de sinônimos reduzindo a detecção de 92% para 66% para alterações de 10% nas palavras.
- As marcas d'água não medem a contribuição humana, estabelecem propriedade, identificam usuários ou verificam a precisão.
A OpenAI enfatiza que a tecnologia atual de marca d'água tem limitações em relação à edição e tradução, exigindo um lançamento cauteloso focado na transparência sobre o que os sinais podem e não podem provar.