ChatGPT é utilizado por agentes mal-intencionados para apoiar golpes e atividades cibernéticas 

A OpenAI identificou e interrompeu atividades em que usuários utilizaram o ChatGPT para apoiar campanhas de phishing, desenvolver ferramentas maliciosas e executar fraudes on-line. Os casos foram documentados em relatórios publicados pela empresa, que informou ter banido contas associadas ao uso indevido de seus modelos. 

Em relatório publicado em 1º de outubro de 2025, a OpenAI descreveu atividades de agentes que recorreram à inteligência artificial (IA) para elaborar mensagens fraudulentas em diferentes idiomas, adaptar abordagens a públicos específicos e auxiliar no desenvolvimento de ferramentas utilizadas em operações cibernéticas. 

Inteligência artificial no apoio a ataques digitais 

Segundo a OpenAI, algumas contas utilizaram o ChatGPT para produzir e-mails de phishing que simulavam comunicações de empresas, instituições acadêmicas e eventos. Os usuários solicitavam ajustes de linguagem, referências institucionais e adaptações regionais para tornar as mensagens compatíveis com os públicos visados. 

A empresa também identificou solicitações relacionadas à criação e à modificação de código, à automação de tarefas e ao desenvolvimento de componentes de ferramentas maliciosas. De acordo com o relatório, essas atividades buscavam principalmente acelerar processos já conhecidos, sem que a empresa identificasse evidências de que as respostas dos modelos tivessem viabilizado capacidades ofensivas inéditas naquele caso. 

Em outra publicação, de 31 de julho de 2026, a OpenAI informou ter interrompido uma operação criminosa sediada no Camboja que utilizava o ChatGPT para apoiar diferentes tipos de fraude, incluindo golpes de investimento, fraudes românticas, esquemas relacionados a jogos de azar e falsidade ideológica. 

Segundo a empresa, os envolvidos criavam identidades falsas, produziam mensagens destinadas às vítimas e geravam materiais promocionais para os esquemas. A investigação também identificou tentativas de se passar por autoridades e de utilizar documentos falsificados para conferir aparência de legitimidade às abordagens. 

A OpenAI informou que baniu as contas associadas à operação e compartilhou indicadores relevantes com parceiros do setor e autoridades competentes. A empresa declarou, entretanto, que não conseguiu determinar de forma independente a dimensão total das perdas financeiras atribuídas à rede. 

Medidas de resposta e prevenção 

Os casos documentados mostram que ferramentas de inteligência artificial podem ser incorporadas a atividades criminosas já existentes, auxiliando na produção de conteúdo, na tradução de mensagens e na automação de tarefas. O uso dessas ferramentas não significa, por si só, que tenham ocorrido invasões ou comprometimento de sistemas: cada incidente precisa ser avaliado conforme as evidências disponíveis.

A OpenAI afirma utilizar mecanismos para identificar e interromper violações de suas políticas, incluindo a investigação de atividades suspeitas, o banimento de contas e o compartilhamento de indicadores de ameaça quando apropriado. 

Para as organizações, a ocorrência desses casos reforça a necessidade de avaliar ameaças que combinam engenharia social, ferramentas digitais e automação. Mensagens bem redigidas, perfis aparentemente legítimos e documentos com aparência profissional não constituem, isoladamente, evidências de autenticidade. 

Reflexão para as organizações 

Para as equipes de Segurança da Informação, Gestão de Riscos e Governança de Inteligência Artificial, o uso indevido de modelos de IA por agentes mal-intencionados representa um tema que deve ser considerado na avaliação de ameaças e na revisão dos controles de prevenção a fraudes. 

A capacitação de colaboradores, os procedimentos de verificação de solicitações financeiras, a autenticação de identidades e os canais para comunicar mensagens suspeitas podem integrar as medidas de prevenção. Também é necessário estabelecer critérios para o uso corporativo de ferramentas de IA, considerando permissões, monitoramento e tratamento de informações. 

Sua organização já considera o uso de inteligência artificial por agentes mal-intencionados em seus processos de prevenção a fraudes, conscientização e gestão de riscos cibernéticos? 

Fontes: 

OpenAI. Operação cibernética: suporte a phishing e scripts. Publicada em 1º de outubro de 2025.  

OpenAI. Desarticulando uma operação criminosa de golpes sediada no Camboja. Publicada em 31 de julho de 2026.  

Estadão/TecMundo. Hackers usam assistente do ChatGPT para aplicar golpes e infectar computadores.