Ataques cibernéticos impulsionados por inteligência artificial autônoma estão se tornando uma ameaça cada vez mais sofisticada e acessível. Em um incidente recente, um hacker lançou um exército de agentes de IA que tentaram invadir mais de 1.200 sites, com cerca de 100 empresas, incluindo gigantes como Deere, SharkNinja e Cummins, sendo efetivamente violadas. A operação, que ocorreu a partir de 25 de setembro, exigiu um investimento de aproximadamente US$ 5.000 em tokens de modelos como DeepSeek e Anthropic Claude Code, resultando em um custo estimado de US$ 50 por brecha bem-sucedida. Especialistas apontam que a melhoria significativa nas capacidades de codificação e na autonomia dos modelos de IA nos últimos anos é o principal motor dessa escalada.
Esses agentes de IA são capazes de analisar grandes volumes de código e interagir com outros softwares para completar tarefas, operando continuamente e a um custo marginalmente inferior ao de atacantes humanos. Essa mudança fundamental na economia da exploração cibernética, como destacou Varun Chandrasekaran, professor da Universidade de Illinois, torna ataques em larga escala mais viáveis. A disponibilidade de modelos "open-weight", que são publicamente acessíveis e customizáveis, agrava o cenário. Embora possam ser mais difíceis de configurar, esses modelos oferecem ferramentas poderosas e de baixo custo para atividades maliciosas, sem as restrições de segurança inerentes a modelos "fechados".
Implicações dos modelos open-weight
A proliferação de modelos de IA open-weight levanta preocupações significativas sobre a disseminação de ataques cibernéticos devastadores. Dario Amodei, CEO da Anthropic, alertou para o risco representado por esses modelos, sugerindo a necessidade de restrições governamentais em sua distribuição e uso. No entanto, há um debate em curso, com defensores argumentando que modelos abertos também beneficiam os defensores. Um exemplo notável ocorreu em julho, quando a Hugging Face, ao ser atacada por um agente autônomo, inicialmente teve seu modelo fechado recusando a solicitação de defesa devido a salvaguardas. Posteriormente, a empresa utilizou um modelo open-weight, o GLM 5.2 da Z.ai, para se defender com sucesso.
Escalada de ataques e respostas da indústria
Outros incidentes recentes sublinham a crescente ameaça. Em 18 de outubro, a plataforma de codificação OpenCode sofreu um ataque contínuo por 48 horas de um modelo de IA autônomo. O ataque comprometeu contas de 1,4% de seus usuários, com alguns perdendo até US$ 1.700. A OpenCode utilizou seus próprios agentes de IA para defesa, mas enfrentou frustrações quando um modelo da OpenAI começou a recusar suas solicitações. A empresa precisou ser admitida no programa Daybreak Blue da OpenAI para acessar ferramentas mais avançadas. Em resposta a críticas, um executivo da OpenAI explicou que as recusas iniciais eram para prevenir o uso de seus modelos em "ataques cibernéticos autônomos sustentados" por atores mal-intencionados. Em um movimento sem precedentes, a OpenAI reembolsou os usuários afetados da OpenCode que perderam dinheiro.
Ataque na Coreia do Sul e o futuro da cibersegurança
No cenário mais grave deste mês, um ataque cibernético na Coreia do Sul, provavelmente originado na China, violou bancos e roubou dados de cerca de 68.000 pessoas. Os atacantes empregaram uma combinação de uma ferramenta de IA estatal chinesa, Artex (baseada em modelos abertos), e o Anthropic Claude Code. Autoridades sul-coreanas instaram os bancos a reforçarem suas defesas, e Mun Chong-hyun, chefe do Genians Security Center, previu um aumento global nesses ataques. A crescente sofisticação e acessibilidade dos agentes de IA autônomos representam um desafio contínuo para a cibersegurança, exigindo novas estratégias de defesa e um debate mais amplo sobre a governança da tecnologia.
O cenário de ciberataques impulsionados por IA está em rápida evolução, apresentando desafios complexos para empresas e governos. A capacidade de agentes autônomos de operar com baixo custo e alta eficiência redefine as táticas de exploração. A questão central agora reside em como equilibrar a inovação e o acesso a ferramentas poderosas de IA com a necessidade premente de segurança digital e a mitigação de riscos globais. A resposta da indústria e a possível regulamentação de modelos abertos serão cruciais para moldar o futuro da cibersegurança.
Com reportagem de Brazil Valley
Source · Fortune
