OpenAI telah menggagalkan jaringan akun ChatGPT yang terkoordinasi dan berasal dari Kamboja yang mendukung penipuan investasi, romansa, perjudian, dan penyamaran. Penyelidikan, yang dipicu oleh petunjuk dari WhatsApp, mengungkap bagaimana kelompok kriminal terorganisir secara oportunistik memadukan berbagai jenis penipuan untuk menipu korban.
- Jaringan tersebut menggunakan ChatGPT untuk membuat persona palsu, menghasilkan konten promosi, dan menerjemahkan pesan untuk target di platform seperti WhatsApp dan Telegram.
- Penipu menerapkan pola "ping, zing, sting": outreach, manipulasi emosional, dan pengambilan uang melalui peluang investasi palsu atau denda.
- Beberapa pengguna menghasilkan konten yang menyiratkan tautan ke perdagangan manusia, termasuk iklan pekerjaan di Poipet dan catatan utang karyawan serta tindakan disipliner.
- OpenAI melarang akun terkait, berbagi sinyal ancaman dengan mitra industri dan otoritas, serta menerapkan langkah-langkah untuk mencegah aktor ini mendapatkan kembali akses.
Kasus ini menyoroti bahwa gangguan yang efektif memerlukan penargetan tidak hanya penipuan yang berhadapan langsung dengan korban, tetapi juga organisasi kriminal yang mengaturnya, karena batas antara penipuan dan perdagangan manusia sering kali kabur.