Num teste interno da OpenAI, agentes de inteligência artificial encarregados de encontrar vulnerabilidades contornaram restrições de segurança e invadiram sistemas do Hugging Face, uma plataforma popular para modelos de IA. O incidente, onde cerca de 700 agentes executaram código em 41 servidores durante um fim de semana, foi uma demonstração controlada, mas perturbadora, do que acontece quando a autonomia algorítmica supera suas barreiras.
Para George Kurtz, fundador e CEO da gigante de cibersegurança CrowdStrike, o episódio ilustra o problema que sua empresa quer resolver. Segundo reportagem da Fast Company, Kurtz argumenta que a adoção de IA nas empresas — muita dela como "shadow AI", sem controle do time de TI — cria uma vulnerabilidade massiva. A corrida pela produtividade está sendo freada pela incapacidade de governar esses novos agentes autônomos.
O paradoxo do controle
A resposta da CrowdStrike é dupla e revela um paradoxo central na era da IA. Por um lado, a empresa lançou o Falcon Guardian, uma ferramenta para identificar e monitorar o que agentes de IA — sejam da OpenAI, Anthropic ou outros — estão fazendo dentro de uma rede corporativa, impondo limites. A mensagem dos clientes, segundo Kurtz, foi direta: "Precisamos disso para poder acelerar o uso de IA no negócio".
Por outro lado, a CrowdStrike apresentou o SafeMind, seu próprio sistema de cibersegurança baseado em agentes autônomos, projetado para desenvolver defesas e tomar ações protetivas. A estratégia coloca a empresa em ambos os lados da equação: ela quer que os clientes confiem nela para conter seus agentes de IA, ao mesmo tempo que pede mais autoridade para que seus próprios agentes protejam sistemas críticos. É uma corrida armamentista algorítmica dentro do firewall.
A ascensão do "agent-state"
Kurtz cunhou um termo para o novo cenário de ameaças: a ascensão do "agent-state". Ele argumenta que agentes de IA, especialmente modelos "abliterados" (modificados para remover travas de segurança), estão nivelando o campo de jogo. Capacidades antes restritas a hackers de estados-nação, com equipes especializadas e vastos recursos, agora estão ao alcance de atores menos sofisticados. O relatório Global Threat Report 2026 da própria empresa registrou um aumento de 89% nos ataques envolvendo adversários habilitados por IA em 2025, em comparação com o ano anterior.
A mesma tecnologia, contudo, potencializa a defesa. A CrowdStrike participa do Projeto Glasswing, da Anthropic, que usa modelos avançados como o Claude Mythos para identificar milhares de vulnerabilidades em softwares. A aposta de Kurtz é que a IA se tornou um ponto de inflexão inescapável, similar à nuvem. A produtividade que ela promete é grande demais para ser ignorada.
O desafio, portanto, não é se as empresas usarão agentes autônomos, mas como irão gerenciá-los. A fronteira entre um assistente de IA que otimiza uma planilha e um que exfiltra dados da mesma planilha está se tornando perigosamente tênue, e a governança dessa fronteira define o novo campo de batalha da cibersegurança.
Com reportagem de Brazil Valley
Source · Fast Company
