OpenAI는 투자, 로맨스, 도박, 그리고 신원 사칭 사기를 지원한 캄보디아에서 기원한 ChatGPT 계정들의 연계된 네트워크를 차단했습니다. WhatsApp의 제보로 시작된 이 조사는 조직화된 범죄 집단이 피해자를 속이기 위해 다양한 사기 유형을 어떻게 기회주의적으로 결합하는지를 드러냈습니다.
- 이 네트워크는 ChatGPT를 사용하여 가짜 페르소나를 생성하고, 프로모션 콘텐츠를 제작하며, WhatsApp 및 Telegram 같은 플랫폼의 대상자들에게 메시지를 번역했습니다.
- 사기꾼들은 "핑, 징, 스틴그" 패턴을 사용했습니다: 접촉, 감정적 조작, 그리고 가짜 투자 기회나 벌금을 통해 금전을 빼앗는 행위입니다.
- 일부 사용자는 인신매매와의 연관성을 시사하는 콘텐츠를 생성했으며, 여기에는 Poipet의 구인 광고와 직원들의 채무 및 징계 기록이 포함되었습니다.
- OpenAI는 관련 계정들을 차단하고, 산업 파트너 및 당국에 위협 신호를 공유했으며, 이러한 행위자들이 다시 접근하는 것을 방지하기 위한 조치를 취했습니다.
이 사례는 사기와 인신매매의 경계가 종종 모호하다는 점을 고려할 때, 효과적인 차단을 위해서는 피해자에게 직접적으로 작용하는 사기뿐만 아니라 이를 조종하는 범죄 조직 자체를 표적 삼아야 함을 보여줍니다.