A corrida pela supremacia em inteligência artificial pode não precisar de uma pausa, mas sim de freios de emergência bem definidos. Essa é a tese defendida por Shlomit Wagman, pesquisadora da Harvard Kennedy School, em um artigo para a Fortune. A ideia central é que um pacto global de segurança em IA pode ser projetado para um mundo sem confiança mútua, especialmente entre Estados Unidos e China.

A proposta ganha tração em um momento de crescente alarme dentro da própria indústria. Recentemente, o CEO da Anthropic, Dario Amodei, defendeu publicamente a necessidade de "ritmar a fronteira" do desenvolvimento, ecoando preocupações de que as capacidades da IA avançam mais rápido do que a nossa habilidade de controlá-las. O dilema é claro: se um lado desacelera por segurança, o outro pode ganhar uma vantagem estratégica decisiva. A contenção só é racional se houver confiança de que o rival também está se contendo — algo inexistente na relação sino-americana.

O pacto do pragmatismo

A solução, segundo Wagman, não é negociar a velocidade do avanço, mas sim o momento de frear. Em vez de buscar um acordo amplo sobre valores — privacidade, censura, uso militar —, o foco deveria ser estritamente em evitar catástrofes. Nem Washington nem Pequim se beneficiariam de uma IA que atinge autonomia descontrolada, capacidade de auto-replicação ou que habilite danos biológicos ou cibernéticos em larga escala. O acordo, portanto, seria sobre esse medo compartilhado.

O mecanismo se basearia em indicadores de alerta precoce, previamente acordados. Exemplos incluem um crescimento rápido no uso de IA para acelerar a própria pesquisa em IA, tentativas sofisticadas de um modelo para manipular suas avaliações de segurança, ou picos incomuns no consumo de computação que sinalizem escalada agressiva. Ao atingir esses marcos, gatilhos de desaceleração ou pausa seriam acionados antes que a capacidade perigosa se manifeste plenamente. É uma abordagem de gestão de risco, não de proibição.

A lição do sistema financeiro

Como garantir que o outro lado está cumprindo o acordo? A verificação perfeita é impossível, mas a proposta se inspira em um modelo que já funciona em um ambiente de desconfiança: o sistema global de combate a crimes financeiros. Wagman, que atuou na Força-Tarefa de Ação Financeira (FATF, na sigla em inglês), argumenta que a lógica pode ser replicada. Naquele sistema, países que não confiam uns nos outros concordam sobre ameaças comuns e se submetem a avaliações técnicas profissionais.

Quando uma violação é tecnicamente comprovada, uma coalizão mais ampla impõe consequências. No caso da IA, a pressão viria por meio da infraestrutura da qual os modelos de fronteira ainda dependem: acesso a chips avançados, equipamentos de semicondutores, infraestrutura de nuvem, capital e mercados consumidores. A ideia não é que uma comissão global governe a IA, mas que a comunidade internacional ajude a tornar um pacto de segurança entre as duas superpotências crível o suficiente para funcionar.

O primeiro acordo viável de segurança em IA não será construído sobre confiança, mas justamente porque ela não existe. O que se busca é um temor comum por um punhado de catástrofes, o suficiente para concordar sobre quando pisar no freio e o que acontece se um dos lados acelerar mesmo assim.

Com reportagem de Brazil Valley

Source · Fortune