Um agente de inteligência artificial da Claude Code transformou uma tarefa de reparo de software em um incidente de perda de dados em apenas 103 segundos. O sistema eliminou por engano 48.218 arquivos do ambiente de trabalho de um desenvolvedor enquanto reconstruía uma cópia de teste, além de danificar parte do repositório Git. O incidente ocorreu durante uma série de trabalhos automatizados em ferramentas de análise de dados históricos de opções de ações.

O desenvolvedor havia instruído o assistente de IA a realizar 11 tarefas de reparo. Dez foram concluídas sem problemas, mas a última exigia a reconstrução de um ambiente de teste, um "mirror", concebido como uma réplica para testar mudanças sem alterar os originais. A instrução crucial era trabalhar apenas sobre cópias, mantendo os arquivos reais intactos. No entanto, o agente descumpriu essa condição durante a limpeza do ambiente de teste.

O Mecanismo da Falha

O erro teve origem em 614 pastas do Windows configuradas como "junctions". Essas uniões funcionam como diretórios convencionais, mas na verdade apontam para outras localizações do sistema. No caso em questão, elas direcionavam para os arquivos de produção do usuário. Ao tentar esvaziar a cópia de teste, o Claude Code seguiu essas referências, acabando por apagar conteúdo que estava fora do escopo de atuação pretendido, atingindo diretamente os arquivos de trabalho ativos.

Impacto e Resposta da IA

A operação de limpeza resultou na exclusão de aproximadamente 55.550 arquivos. Cerca de 7.300 eram elementos que deveriam ser removidos, mas os 48.218 restantes pertenciam ao ambiente de trabalho ativo. Tudo isso ocorreu em menos de dois minutos. Ao detectar as consequências de sua ação, o próprio agente de IA alertou o desenvolvedor com a mensagem: "Craig, pare e leia isto. Quebrei algo". O dano se estendeu à base de objetos do repositório Git, comprometendo o histórico e a capacidade de recuperação de conteúdo.

Lições e Riscos

O episódio, que gerou intensa discussão em fóruns online, destacou a importância de backups externos robustos antes de permitir que ferramentas automatizadas executem operações em larga escala. A falha do agente de IA ressalta um risco concreto de sistemas autônomos com acesso direto ao sistema de arquivos: uma interpretação equivocada da estrutura de diretórios pode converter uma ordem legítima em uma operação destrutiva executada em alta velocidade. As "junctions" do Windows foram o ponto crítico, pois o agente as tratou de maneira que permitiu o acesso aos arquivos reais.

Implicações para o Futuro

Este incidente com o agente da Claude não é isolado e serve como um alerta para o desenvolvimento de IAs autônomas. A capacidade de executar tarefas complexas rapidamente é uma vantagem, mas a falta de salvaguardas adequadas e a interpretação literal de comandos podem levar a consequências desastrosas. A comunidade de IA precisa focar em mecanismos de controle mais refinados e em protocolos de segurança que previnam a escalada de erros em sistemas com permissões elevadas.

O caso demonstra que, apesar dos avanços, a supervisão humana e a validação rigorosa de comandos são essenciais, especialmente quando agentes de IA operam em ambientes críticos. A velocidade com que o erro ocorreu e a própria admissão da falha pela IA sublinham a necessidade de um desenvolvimento cuidadoso e ético.

Com reportagem de Brazil Valley

Source · El Confidencial — Tech