A OpenAI desativou uma rede coordenada de contas do ChatGPT usada para apoiar golpes financeiros, românticos e de falsificação de identidade. Os criminosos utilizavam a inteligência artificial para criar personagens falsos, traduzir conversas e produzir mensagens direcionadas às vítimas.
A investigação começou após o recebimento de informações relacionadas a atividades suspeitas observadas no WhatsApp. Entre os esquemas estavam investimentos fraudulentos em criptomoedas e ouro, relacionamentos amorosos usados para construir confiança, falsos bônus de plataformas de apostas e cobranças enviadas por supostas autoridades policiais.
O ChatGPT também foi empregado na produção de documentos falsificados, confirmações de compra de ações, avisos jurídicos, passaportes e interfaces de serviços financeiros. Esses materiais ajudavam a tornar as histórias mais convincentes.
As abordagens geralmente começavam com o contato em redes sociais ou aplicativos de mensagens. Depois de criar vínculo emocional ou sensação de urgência, os operadores solicitavam depósitos, taxas de ativação, multas inexistentes ou pagamentos para liberar recompensas.
A investigação também encontrou possíveis sinais de tráfico humano e trabalho forçado. Contas produziram anúncios de emprego para “atendentes” em Poipet e discutiram dívidas, multas disciplinares, retenção de trabalhadores, vistos vencidos e tentativas de fuga.
As contas envolvidas foram bloqueadas, e indicadores da operação foram compartilhados com autoridades e empresas de tecnologia.
