A Anthropic implementará marca d'água em texto nos futuros modelos do Claude para cumprir a Lei de IA da UE e seu Código de Prática sobre Transparência de Conteúdo Gerado por IA. A empresa utiliza o método SynthID-Text publicado pelo Google DeepMind, que incorpora um padrão detectável no texto gerado sem afetar a qualidade da saída ou adicionar tokens extras.
- A marca d'água altera a fonte de aleatoriedade usada para selecionar palavras entre candidatos igualmente prováveis, deixando um padrão indetectável pelos leitores, mas verificável com uma chave.
- A técnica não tem impacto prático na qualidade do conteúdo, criatividade, legibilidade, velocidade ou custo, pois não produz tokens adicionais.
- A detecção é probabilística e requer comprimento suficiente de texto; ela não identifica usuários específicos, organizações ou conversas.
- As marcas d'água são esparsas em passagens factuais e código onde as escolhas de palavras são restritas, mas se aplicam a traduções e comentários.
- Para imagens e arquivos, o Claude anexa credenciais de conteúdo C2PA nos metadados em vez de usar marcas d'água em texto.
Essa mudança garante a conformidade com as regulamentações da UE que exigem que os provedores de IA marquem o conteúdo gerado, mantendo ao mesmo tempo a indistinguibilidade das saídas do Claude em relação ao texto escrito por humanos.