Um movimento paradoxal ganha força no epicentro da inteligência artificial: os mesmos arquitetos que constroem os modelos mais avançados são os que soam os alarmes mais urgentes sobre seus potenciais perigos. De ex-funcionários da OpenAI e Anthropic a CEOs como Dario Amodei, da própria Anthropic, o discurso sobre riscos existenciais se tornou público e explícito.

Contudo, enquanto uma mão aponta para o abismo, a outra pisa fundo no acelerador. A tese que emerge é que a indústria de IA vive um dilema profundo, onde a consciência do risco é superada por incentivos competitivos e geopolíticos irrefreáveis. A questão não é se o freio existe, mas por que ninguém parece disposto a ser o primeiro a usá-lo.

O debate e a estratégia

O pânico não é unânime. De um lado, figuras como Amodei, Sam Altman (OpenAI) e Demis Hassabis (Google DeepMind) convergem na necessidade de cautela e regulação. Do outro, cientistas de renome como Yann LeCun, do Meta, e acadêmicos como Miguel Nicolelis no Brasil, rechaçam a ideia de uma superinteligência iminente, classificando os modelos atuais como sistemas sofisticados de reconhecimento de padrões, mas desprovidos de compreensão real. Para eles, o alarme é exagerado.

A leitura cética, no entanto, aponta para uma dimensão estratégica por trás dos alertas. Ao inflar tanto a promessa quanto o perigo da IA, seus criadores se posicionam como os únicos sacerdotes capazes de controlar uma força quase mística. Como aponta uma análise da filósofa Carissa Véliz, da Universidade de Oxford, tais profecias podem ser ferramentas de construção de poder. Quanto maior o risco percebido, maior a justificativa para investimentos vultosos e maior a centralidade de quem detém as chaves da tecnologia.

A segurança nacional como trunfo

A dinâmica se complica quando o tabuleiro deixa de ser apenas corporativo e passa a ser geopolítico. A corrida pela supremacia em IA entre Estados Unidos e China funciona como um motor de aceleração que se sobrepõe a qualquer debate ético. A lógica da segurança nacional se torna um trunfo que anula as discussões sobre desaceleração.

Instaura-se um clássico dilema do prisioneiro: mesmo que todos os atores concordem que a cooperação (frear o desenvolvimento) seria o melhor resultado coletivo, o medo de que o adversário não o faça e ganhe uma vantagem estratégica torna a aceleração a única jogada racional para cada um. É um eco direto da corrida armamentista nuclear, onde o medo da aniquilação mútua não impediu a escalada do arsenal. A pergunta que Pequim e Washington se fazem é a mesma: “E se nós pararmos e eles não?”.

Talvez os cenários apocalípticos sejam apenas marketing. Talvez não. É essa incerteza que torna perigoso concentrar o destino de uma tecnologia tão impactante nas mãos de poucos executivos e estrategistas militares. A discussão sobre os limites e a velocidade da IA não pode ser um monólogo restrito ao Vale do Silício ou aos corredores do poder. Precisa ser um diálogo amplo, que inclua a ciência, a academia e a sociedade civil. O pavio está aceso; a distância para a bomba ainda está em debate.

Com reportagem de Brazil Valley

Source · MIT Tech Review Brasil