A Anthropic, uma das mais proeminentes startups de inteligência artificial e notória por seu foco em segurança, divulgou o que talvez seja a primeira confirmação pública de um pesadelo da indústria: seu principal modelo, o Claude, foi utilizado por um grupo no norte do Iêmen para auxiliar no desenvolvimento de armamentos. A descoberta, parte de um relatório de segurança da própria companhia, detalha como a ferramenta foi empregada em projetos de mísseis e até de um planador hipersônico.

O incidente move o debate sobre o uso malicioso de IA do campo teórico para a realidade operacional. Embora a Anthropic afirme não ter encontrado evidências de que uma arma funcional tenha sido produzida — um teste de foguete teria fracassado —, o caso serve como um alarme. A barreira de conhecimento técnico para desenvolver sistemas de armas complexos, antes restrita a engenheiros especializados e orçamentos estatais, pode estar sendo erodida por modelos de linguagem acessíveis.

O Dilema do Duplo Uso

Os projetos identificados pela empresa são sofisticados. Incluem um sistema de orientação para foguetes, um míssil balístico com alcance declarado de mais de 2.000 quilômetros e um veículo hipersônico, capaz de manobrar em velocidades extremas. O grupo, não nomeado mas localizado em uma área controlada pelos Houthis, usou o Claude para tarefas de engenharia de orientação, navegação e controle. Essencialmente, terceirizaram parte da P&D militar para um chatbot.

Para a Anthropic, a revelação é paradoxal. Fundada por ex-executivos da OpenAI com a bandeira da segurança e do desenvolvimento ético de IA, a empresa agora se vê na posição de policiar o uso de sua própria criação para fins que contradizem sua missão. O fato de terem detectado e interrompido as contas é uma prova de que seus sistemas de monitoramento funcionam. Contudo, a tentativa em si demonstra que a proliferação de capacidades avançadas é um desafio de governança, não apenas de tecnologia.

O episódio do Iêmen é um estudo de caso sobre o chamado “problema do duplo uso”. Ferramentas criadas para acelerar a ciência e a produtividade podem, com a mesma eficácia, acelerar a criação de ameaças. A questão que fica para o setor não é se a IA será usada para fins nefastos, mas como mitigar seu impacto quando isso inevitavelmente acontecer. A caixa de Pandora, ao que tudo indica, já está aberta.

Com reportagem de Brazil Valley

Source · Olhar Digital