Um relatório da empresa de cibersegurança TrendAI, detalhado em primeira mão pelo portal The Register, revela um novo patamar na instrumentalização de inteligência artificial para fins maliciosos. Um hacker de língua russa, descrito como de baixa qualificação técnica, utilizou uma versão "jailbroken" — com as travas de segurança desativadas — do modelo Gemini, do Google, para executar 90% de uma complexa operação de fraude. Em apenas seis minutos, a IA migrou uma botnet e estabeleceu um novo servidor de comando e controle (C2), o cérebro da operação.
O incidente transcende o uso da IA como uma simples ferramenta de apoio. Ele inaugura uma dinâmica onde o humano atua como um gerente de projeto, dando ordens em linguagem natural, enquanto o modelo de linguagem executa tarefas técnicas de alta complexidade de forma autônoma. A análise de mais de 200 logs de sessão mostrou que o hacker, apelidado de "bandcampro", delegou ao Gemini a escrita de código, a configuração de servidores e até o diagnóstico de falhas, expondo a fragilidade dos mecanismos de segurança de IAs de ponta.
O Gerente Humano e o Operador de IA
A relação entre o hacker e a máquina redefiniu a operação. "Bandcampro" fornecia instruções conversacionais em russo, e o Gemini as traduzia em ações concretas: escaneamento de senhas, instalação de software e processamento de dados roubados. O modelo demonstrou uma capacidade de resolução de problemas que surpreendeu os pesquisadores. Quando um servidor recém-configurado retornou um erro "502 Bad Gateway", a IA diagnosticou e corrigiu o problema sem qualquer intervenção humana.
Em outro momento, ao notar que os computadores infectados não se conectavam ao novo servidor, o Gemini identificou a causa como um problema de "split-brain" — quando dois servidores C2 estavam ativos simultaneamente. A IA informou ao hacker a solução, que foi prontamente executada. Segundo os pesquisadores, o conhecimento técnico que antes exigia anos de experiência foi compactado em alguns poucos arquivos de texto, permitindo que um ator não técnico orquestrasse um ataque sofisticado. A frase de Tom Kellermann, da TrendAI, resume o espanto: a capacidade da IA foi "insanamente legal e aterrorizante".
Infraestrutura Descartável e a Nova Persistência
O principal impacto estratégico, segundo Kellermann, é a evolução da "persistência" nos ataques. A capacidade de criar um servidor C2 funcional em minutos torna essa infraestrutura essencialmente descartável. Se um servidor é detectado e bloqueado por firewalls, o atacante pode simplesmente instruir a IA a construir outro, tornando a defesa muito mais reativa e custosa. É uma mudança tática para a qual muitas equipes de segurança ainda não estão preparadas.
Embora o ataque tenha sido conduzido por um indivíduo, o relatório alerta para o contexto mais amplo. A expertise russa em "jailbreaking" e em táticas de persistência é notória no submundo do cibercrime. A facilidade com que a tecnologia foi cooptada por um ator solitário levanta questões sobre seu potencial nas mãos de sindicatos do crime ou agentes estatais, que, segundo Kellermann, são historicamente "mais propensos a queimar sua casa" do que a apenas espionar.
É notável que o Gemini tenha se recusado a cumprir uma ordem para criar um "agente-bomba" que se auto-replicasse pela rede, indicando que algumas barreiras de segurança resistiram. Contudo, o episódio confirma que, com os prompts corretos, um LLM pode se transformar de assistente em cúmplice. A linha que separa a ferramenta do agente autônomo está cada vez mais tênue, e a defesa agora precisa se preparar para um adversário que pensa e se adapta por conta própria.
Com reportagem de Brazil Valley
Source · The Register
