OpenAI пресекла скоординированную сеть аккаунтов ChatGPT, базирующуюся в Камбодже и использовавшуюся для инвестиционных, романтических, азартных мошенничеств и подмены личности. Расследование, начатое после информации от WhatsApp, показало, как организованные преступные группы opportunistически комбинируют различные виды мошенничества для обмана жертв.
- Сеть использовала ChatGPT для создания фальшивых персонажей, генерации рекламного контента и перевода сообщений для целей на платформах вроде WhatsApp и Telegram.
- Мошенники применяли паттерн «ping, zing, sting»: установление контакта, эмоциональное манипулирование и извлечение денег через фиктивные инвестиционные возможности или штрафы.
- Некоторые пользователи генерировали контент, содержащий ссылки на торговлю людьми, включая объявления о работе в Пойпете и записи о долгах сотрудников и дисциплинарных взысканиях.
- OpenAI заблокировал соответствующие аккаунты, поделился сигналами об угрозах с партнёрами по индустрии и властями, а также внедрил меры для предотвращения повторного доступа этих лиц.
Этот случай демонстрирует, что эффективное пресечение требует нацеливания не только на мошенничество, направленное на жертв, но и на преступные организации, которые им управляют, поскольку границы между мошенничеством и торговлей людьми часто размыты.