OpenAI met en œuvre une approche progressive de la provenance du texte en réponse au règlement européen sur l'IA, en introduisant des filigranes invisibles dans les sorties éligibles de ChatGPT et Codex dans l'Union européenne, tout en offrant une option d'adhésion aux clients de l'API mondiale. L'entreprise a publié sa technologie textGrain, qui ajoute des signaux statistiques aux choix de mots, accompagnée d'un accès limité à un détecteur pour les chercheurs approuvés.
- Le filigrane textuel est désactivé par défaut au niveau mondial mais sera ajouté de manière invisible aux utilisateurs de ChatGPT et Codex dans l'UE dans les prochaines semaines.
- Les clients de l'API mondiale peuvent choisir d'activer les sorties avec filigrane pour certains modèles à partir d'aujourd'hui.
- Le détecteur textGrain est initialement disponible uniquement pour les chercheurs approuvés et les organisations expertes afin d'évaluer sa fiabilité.
- Les évaluations montrent que les taux de détection chutent significativement avec l'édition, par exemple le remplacement de synonymes réduisant la détection de 92 % à 66 % pour des modifications de mots de 10 %.
- Les filigranes ne mesurent pas la contribution humaine, n'établissent pas de propriété, n'identifient pas les utilisateurs et ne vérifient pas l'exactitude.
OpenAI souligne que la technologie actuelle de filigranage présente des limitations concernant l'édition et la traduction, ce qui nécessite un déploiement prudent axé sur la transparence quant à ce que les signaux peuvent et ne peuvent pas prouver.