Em um episódio com contornos de ironia estratégica, pesquisadores de segurança utilizaram o Claude, modelo de inteligência artificial da Anthropic, para hackear contas de funcionários de sua principal concorrente, a OpenAI. O ataque, detalhado em uma reportagem do site The Register, não foi apenas um bug trivial; foi uma demonstração prática de como a própria IA pode ser usada para acelerar drasticamente a descoberta e exploração de vulnerabilidades, transformando um trabalho de meses em uma operação de poucos dias.

O ponto de entrada foi o fórum da comunidade da OpenAI, que roda na plataforma Discourse. A equipe de pesquisadores, conhecida como Hacktron, identificou uma cadeia de falhas que começava na maneira como o sistema processava um tipo específico de arquivo de imagem (HEIF). Em vez de apenas encontrar a brecha, eles foram além: usaram o modelo Claude Opus para gerar o script de exploração que lhes concedeu a capacidade de Execução Remota de Código (RCE). Com esse acesso, conseguiram tomar o controle de contas de ChatGPT de funcionários e, como prova de conceito, utilizaram o acesso de um deles para abrir um pull request em um repositório de código interno da OpenAI.

A IA como ferramenta de ataque

A relevância do episódio não está na vulnerabilidade em si — que foi rapidamente corrigida pela OpenAI em 14 horas, rendendo aos pesquisadores uma recompensa de US$ 6.500 —, mas no método. O uso de um LLM para automatizar a criação de um exploit funcional move o debate sobre segurança em IA do campo teórico para a realidade operacional. O que antes exigia um time altamente especializado e semanas de trabalho, agora pode ser comprimido em horas, como afirmaram os próprios pesquisadores. A sofisticação não está mais apenas no cérebro humano, mas na capacidade do modelo de processar e conectar informações para gerar código malicioso.

O incidente expõe uma nova corrida armamentista no campo da cibersegurança. Se os modelos de IA podem ser co-pilotos para desenvolvedores, eles também podem ser assistentes para hackers. A resposta da OpenAI e da Discourse foi ágil, mas o caso serve de alerta para todo o ecossistema. A segurança de um produto não depende apenas de seu próprio código, mas de toda a cadeia de suprimentos de software, cada qual um potencial ponto de falha que pode ser explorado com velocidade maquínica. As premissas de segurança da indústria, baseadas em ritmo humano, precisam agora se adaptar às capacidades dos atacantes turbinados por IA.

Com reportagem de Brazil Valley

Source · The Register