Usuários do ChatGPT têm sido expostos a sites de compras fraudulentos ao buscar recomendações de produtos na plataforma. Conforme reportagem do Canaltech, baseada em dados da empresa de segurança Ask Silver, a inteligência artificial tem incluído lojas falsas e domínios clonados em suas respostas, elevando o risco de roubo de dados de cartão de crédito e prejuízos financeiros para consumidores desavisados.
O problema ocorre quando o modelo de linguagem é induzido a listar páginas que simulam a identidade visual e a estrutura de marcas legítimas, como Dunelm e Russell & Bromley. A falha expõe uma vulnerabilidade crítica na curadoria de conteúdo da ferramenta, que acaba validando, indiretamente, endereços criados por criminosos para capturar dados sensíveis sob o pretexto de ofertas irresistíveis.
A técnica do envenenamento de IA
A diretora da Ask Silver, Anna Jones, descreve o fenômeno como um "envenenamento de IA". Nesse cenário, agentes maliciosos injetam intencionalmente conteúdos fraudulentos na base de dados que alimenta o modelo, criando páginas clonadas que utilizam termos como "oficial" nas URLs para conferir uma falsa aura de legitimidade. O objetivo é manipular o algoritmo de recomendação para que ele priorize esses links durante interações com usuários.
Essas páginas fraudulentas frequentemente operam com descontos irreais, chegando a 80%, e utilizam layouts profissionais para reduzir a desconfiança do consumidor. Além disso, os golpistas aproveitam lacunas de mercado, como marcas que encerraram operações ou mudaram de controle, para ocupar o espaço digital e atrair tráfego orgânico via ferramentas de busca e assistentes inteligentes.
Mecanismos de manipulação de confiança
O sucesso desses golpes reside na confiança depositada pelos usuários na autoridade da inteligência artificial. Quando o ChatGPT responde a uma consulta de compra, o usuário tende a tratar a sugestão como um resultado curado e seguro. Esse viés cognitivo é explorado pelos criminosos, que estruturam o conteúdo para que ele pareça uma recomendação neutra e embasada, contornando a percepção de risco que normalmente surgiria em um anúncio publicitário tradicional.
Vale notar que a dinâmica de funcionamento dos modelos de linguagem, que agregam informações de vastas fontes da internet, torna o desafio de filtragem complexo. Enquanto a OpenAI trabalha para remover sites denunciados de seu índice, a velocidade com que novos domínios fraudulentos são criados sugere uma batalha constante entre a segurança da plataforma e as táticas de engenharia social dos golpistas.
Implicações para a segurança do consumidor
A exposição a esses golpes reforça a necessidade de cautela redobrada ao interagir com sistemas de IA generativa. Reguladores e empresas de tecnologia enfrentam o desafio de estabelecer protocolos de verificação mais rígidos para links sugeridos, enquanto consumidores devem adotar práticas de checagem manual, como digitar o endereço oficial da loja no navegador, em vez de clicar diretamente em sugestões fornecidas pela ferramenta.
Para o ecossistema brasileiro, o caso serve como um alerta sobre a rápida adaptação de fraudadores a novas interfaces de consumo. A sofisticação técnica dos golpes exige que a educação digital acompanhe a evolução das ferramentas de IA, garantindo que a conveniência tecnológica não se transforme em uma porta de entrada para crimes financeiros de larga escala.
Desafios de mitigação e o futuro da busca
Permanecem incertas as medidas definitivas que a OpenAI tomará para prevenir o reaparecimento desses conteúdos. A natureza descentralizada e dinâmica da internet dificulta a eliminação permanente de todos os sites clonados, o que exige que a empresa aprimore seus filtros de segurança de forma contínua e transparente para manter a integridade da plataforma.
O comportamento dos usuários diante de sugestões da IA continuará sendo um campo de observação essencial nos próximos meses. A forma como a plataforma reagirá às denúncias e o desenvolvimento de novas camadas de verificação de links ditarão a confiança que o mercado depositará nessas ferramentas para decisões de consumo diárias.
A segurança no uso de inteligência artificial para compras online exige uma postura crítica, onde a conveniência da recomendação nunca substitua a verificação direta das fontes. À medida que a tecnologia se integra ao cotidiano, a responsabilidade pela segurança torna-se compartilhada entre o desenvolvimento da ferramenta e a cautela do usuário final.
Com reportagem de Brazil Valley
Source · Canaltech
