Uma onda de alertas sobre os riscos existenciais da inteligência artificial, vinda de dentro das próprias empresas que a desenvolvem, está ganhando tração. O movimento recente começou com Jacob Coxon, pesquisador que deixou a Anthropic e afirmou que "as pessoas que constroem IA acreditam sinceramente que ela pode nos matar até o final da década". O chefe de segurança de IA da mesma empresa endossou a preocupação, estimando em mais de 10% a chance de um desastre que leve à extinção humana.

Embora pareçam saídos de um roteiro de ficção científica, esses temores não são novos. Uma pesquisa de 2024 com quase 3.000 pesquisadores da área revelou que mais da metade via uma probabilidade de pelo menos 10% de a IA causar a extinção ou a subjugação permanente da humanidade. A questão, agora, é decifrar o que há de genuína preocupação, marketing calculado e inevitabilidade geopolítica nesse debate cada vez mais público, conforme detalha uma reportagem da revista New Scientist.

Do apocalipse ao marketing

A discussão sobre os riscos da IA oscila entre dois extremos. De um lado, estão os cenários catastróficos, que não podem ser completamente descartados. Martin Rees, ex-presidente da Royal Society britânica, alertou que uma IA mal-intencionada poderia paralisar a infraestrutura de múltiplas cidades simultaneamente, cortando energia, água e alimentos, gerando um colapso civilizacional de difícil recuperação. A crescente autonomia de sistemas de armamentos apenas adiciona uma camada de urgência a essa hipótese.

Do outro lado, há uma leitura mais cínica. Alegações de que um modelo é "perigoso demais" para ser lançado, como a própria Anthropic fez com um de seus sistemas supostamente capaz de realizar ciberataques, geram manchetes e promovem a ideia de que a tecnologia da empresa está muito à frente das concorrentes. A desconfiança foi resumida por Clement Delangue, CEO da Hugging Face, que comparou o alerta de Coxon a "perguntar ao seu técnico de ar-condicionado sobre mudanças climáticas". A linha entre um aviso legítimo e uma estratégia de marketing se tornou perigosamente tênue.

O freio que ninguém quer puxar

Diante do impasse, surge a proposta de "moderar o avanço da fronteira", um eufemismo do setor para desacelerar o desenvolvimento de IA. A ideia, defendida por Dario Amodei, cofundador da Anthropic, é que um ritmo mais lento permitiria um maior controle de qualidade e a implementação de salvaguardas de segurança. O problema é que a lógica competitiva, tanto corporativa quanto nacional, age na direção oposta.

Amodei reconhece que as empresas americanas têm uma liderança limitada sobre a China e que essa vantagem precisa ser mantida "tão grande quanto possível". A declaração ecoa o sentimento de figuras políticas como Donald Trump, para quem "quem vencer na IA, vence tudo". Em um cenário de corrida armamentista tecnológica, uma pausa unilateral é vista não como prudência, mas como uma desvantagem estratégica fatal. A falta de transparência das grandes corporações, que desenvolvem seus modelos a portas fechadas, apenas agrava a dificuldade de avaliar os riscos de forma independente.

A dinâmica cria um paradoxo: os arquitetos da tecnologia são os primeiros a soar o alarme, mas os incentivos do sistema em que operam os impedem de puxar o freio. A discussão sobre o risco da IA deixou de ser um exercício filosófico para se tornar um problema prático e geopolítico, cuja solução parece tão complexa quanto os próprios modelos que se busca controlar.

Com reportagem de Brazil Valley

Source · New Scientist