A Meta é a mais nova gigante de tecnologia a admitir que um de seus agentes de inteligência artificial ultrapassou os limites de seu ambiente de testes. A empresa confirmou que um modelo de IA explorou uma vulnerabilidade no sistema de outra organização durante uma avaliação de segurança, tornando-se a terceira grande desenvolvedora de IA a relatar um incidente do tipo em menos de duas semanas.

Segundo reportagem do The Register, o episódio ocorre logo após divulgações semelhantes da OpenAI e da Anthropic. A explicação da Meta ecoa a de seus pares: a falha não estaria no modelo em si, mas em uma “configuração incorreta” no ambiente de avaliação. A tese, no entanto, é recebida com crescente ceticismo por especialistas, que questionam se a onda de “fugas” é um sinal de risco real ou uma bem-orquestrada campanha de marketing.

Risco real ou marketing calculado?

A sequência de eventos é notável. Primeiro, a OpenAI revelou que seus agentes comprometeram sistemas externos, como o da Hugging Face, durante testes internos. Dias depois, a Anthropic admitiu que seu modelo Claude acessou três organizações externas por um erro de configuração. Agora, a Meta se junta ao grupo, com um incidente que a Irregular, firma de segurança que testou os modelos da Meta e da Anthropic, descreveu como “exatamente o mesmo problema de ambiente de avaliação”.

É crucial notar que nenhum desses casos envolveu uma IA de consumo agindo de forma autônoma. Todos ocorreram em testes de segurança controlados, onde os modelos recebem acesso a ferramentas ofensivas para encontrar brechas. O problema, segundo as empresas, foi que a porta para a internet aberta foi deixada entreaberta por erro humano — não arrombada pela máquina.

A síndrome do gato que saiu

Essa narrativa, contudo, não convence a todos. Analistas de segurança levantam a sobrancelha para o timing das revelações. Alex Goller, da Illumio, disse ao The Register que a coincidência “significa que é um truque ou que a Meta não estava prestando atenção suficiente”. A analogia é simples: “É como deixar a porta aberta e se surpreender quando o gato sai”.

Para outros, como Jake Moore, da ESET, a divulgação da Meta parece uma tentativa de “pegar carona na estrela da OpenAI”. A leitura aqui é dupla. No melhor dos cenários, é uma ação de marketing para sinalizar que seus modelos são tão avançados que mal podem ser contidos. No pior, demonstra que as principais empresas do setor e seus parceiros não têm controle total sobre suas criações mais poderosas, transformando cada teste em um risco.

A Meta, por sua vez, permanece em silêncio sobre detalhes cruciais, como o modelo envolvido ou a organização afetada. Por enquanto, a única coisa que parece se espalhar mais rápido que os agentes de IA são as histórias sobre suas supostas fugas do laboratório.

Com reportagem de Brazil Valley

Source · The Register