OpenAI a démantelé un réseau coordonné de comptes ChatGPT originaires du Cambodge qui soutenait des arnaques liées aux investissements, à la romance, aux jeux d'argent et à l'usurpation d'identité. L'enquête, initiée suite à un signalement via WhatsApp, a révélé comment des groupes criminels organisés mélangent opportunément plusieurs types de fraude pour tromper les victimes.
- Le réseau utilisait ChatGPT pour créer de faux profils, générer du contenu promotionnel et traduire des messages destinés aux cibles sur des plateformes comme WhatsApp et Telegram.
- Les escrocs employaient le schéma « ping, zing, sting » : prise de contact, manipulation émotionnelle et extraction d'argent via de fausses opportunités d'investissement ou des amendes fictives.
- Certains utilisateurs ont généré du contenu suggérant des liens avec la traite des êtres humains, y compris des offres d'emploi à Poipet et des registres des dettes des employés et des mesures disciplinaires.
- OpenAI a banni les comptes associés, partagé des signaux de menace avec des partenaires de l'industrie et les autorités, et mis en œuvre des mesures pour empêcher ces acteurs de retrouver l'accès.
Cette affaire met en évidence qu'une perturbation efficace nécessite de cibler non seulement les arnaques adressées aux victimes, mais aussi les organisations criminelles qui les orchestrent, car les frontières entre la fraude et la traite sont souvent floues.