OpenAIは、カンボジアに起源を持つChatGPTアカウントの連携ネットワークを摘発した。このネットワークは投資、ロマンス、ギャンブル、なりすまし詐欺を支えていた。

WhatsAppからの情報提供をきっかけに始まった調査により、組織的な犯罪グループが複数の不正行為の種類を機会主義的に組み合わせて被害者を欺いている実態が明らかになった。

  • このネットワークはChatGPTを用いて偽のペルソナを作成し、プロモーションコンテンツを生成し、WhatsAppやTelegramなどのプラットフォーム上のターゲットへのメッセージを翻訳した。
  • 詐欺師は「ピング・ジン・スティン（ping, zing, sting）」のパターンを採用した：接触、感情的操作、そして偽りの投資機会や罰金を通じて資金を引き出すこと。
  • 一部のユーザーは人身取引へのリンクを示唆するコンテンツを生成し、ポイペトでの求人広告や従業員の債務記録、懲戒措置が含まれていた。
  • OpenAIは関連アカウントを禁止し、脅威信号を業界パートナーおよび当局と共有し、これらの行為者がアクセスを回復することを防ぐための対策を実施した。

この事例は、効果的な摘発には被害者向けの詐欺だけでなく、それらを仕掛ける犯罪組織自体を対象とすることが必要であり、不正行為と人身取引の境界線がしばしば曖昧であることを浮き彫りにしている。