OpenAI는 EU AI Act에 대응하여 텍스트 출처에 대한 단계적 접근 방식을 구현하고 있으며, 유럽 연합의 대상 ChatGPT 및 Codex 출력물에 보이지 않는 워터마킹을 추가하는 동시에 전역 API 고객에게 옵트인 옵션을 제공하고 있습니다. 동사는 단어 선택에 통계적 신호를 추가하는 textGrain 기술을 출시했으며, 승인된 연구원들에게 제한적으로 검출기를 제공합니다.
- 텍스트 워터마킹은 전역적으로 기본적으로 비활성화되어 있지만, 향후 몇 주 동안 EU ChatGPT 및 Codex 사용자에게 보이지 않게 추가됩니다.
- 전역 API 고객은 오늘부터 선택한 모델에 대해 워터마킹된 출력을 옵트인할 수 있습니다.
- textGrain 검출기는 초기에는 신뢰성을 평가하기 위해 승인된 연구원과 전문가 조직에만 제공됩니다.
- 평가 결과, 동의어 교체와 같은 편집 시 검출률이 현저히 떨어지며, 10% 단어 변경 시 검출률이 92%에서 66%로 감소합니다.
- 워터마킹은 인간의 기여도를 측정하거나 소유권을 확립하거나 사용자를 식별하거나 정확성을 검증하지 않습니다.
OpenAI는 현재 워터마킹 기술이 편집 및 번역과 관련하여 한계가 있으므로, 신호가 무엇을 증명할 수 있는지와 그렇지 않은지에 대한 투명성에 중점을 둔 신중한 롤아웃이 필요하다고 강조합니다.