OpenAI реализует поэтапный подход к обеспечению происхождения текста в ответ на Закон ЕС об ИИ, внедряя невидимые водяные знаки в соответствующие выходные данные ChatGPT и Codex в Европейском союзе, а также предлагая опцию добровольного подключения для глобальных клиентов API. Компания выпустила технологию textGrain, которая добавляет статистические сигналы к выбору слов, наряду с ограниченным доступом к детектору для утвержденных исследователей.
- Водяные знаки по умолчанию отключены глобально, но будут невидимо добавлены пользователям ChatGPT и Codex в ЕС в ближайшие недели.
- Глобальные клиенты API могут добровольно подключиться к получению выходных данных с водяными знаками для выбранных моделей начиная с сегодняшнего дня.
- Детектор textGrain изначально доступен только утвержденным исследователям и экспертным организациям для оценки надежности.
- Оценки показывают, что скорость обнаружения значительно снижается при редактировании, например, замена синонимами снижает обнаружение с 92% до 66% при изменении 10% слов.
- Водяные знаки не измеряют вклад человека, не устанавливают право собственности, не идентифицируют пользователей и не проверяют точность.
OpenAI подчеркивает, что текущая технология водяных знаков имеет ограничения в отношении редактирования и перевода, что требует осторожного развертывания с акцентом на прозрачность того, что сигналы могут и не могут доказывать.