A fachada de segurança que cerca os principais laboratórios de inteligência artificial sofreu uma fissura pública e contundente. Jacob Coxon, pesquisador com passagens pela OpenAI e, mais recentemente, pela Anthropic, pediu demissão acusando ambas as empresas de agirem com irresponsabilidade na busca pela superinteligência. "Estão avançando a toda velocidade [...] e jogando com nossas vidas", afirmou Coxon em uma postagem em redes sociais que rapidamente reverberou no setor.

A demissão não é um evento isolado, mas um sintoma da crescente angústia entre os próprios criadores da tecnologia. Vindo da Anthropic — uma startup fundada por dissidentes da OpenAI justamente com a bandeira de um desenvolvimento de IA mais seguro — o gesto ganha um peso simbólico. A leitura aqui é que a pressão competitiva e a corrida por capital e talento estão sobrepujando as missões de segurança, mesmo nas organizações criadas para priorizá-las.

A corrida e o risco existencial

Coxon, que atuou na área de pré-treinamento de modelos em ambas as companhias, argumenta que a indústria está imersa numa "aposta temerária". Segundo ele, muitos desenvolvedores de IA "acreditam sinceramente que ela poderia acabar com todos nós até o final da década", mas os executivos minimizam esses riscos para não gerar pânico e não frear o avanço comercial.

O que poderia ser visto como um alerta radical ganhou validação de uma fonte interna. Evan Hubinger, um dos líderes de Ciência de Alinhamento na Anthropic, endossou as preocupações de Coxon. Em uma declaração surpreendente, Hubinger afirmou que a probabilidade de a IA "acabar com todos os humanos" chega a 10% até o fim desta década. Ele admitiu que, embora a Anthropic esteja fazendo "todo o possível", a empresa ainda não possui um plano claro para "resolver o problema do alinhamento para a superinteligência".

A divergência pública expõe o paradoxo no coração do Vale do Silício: as mesmas empresas que alertam para os perigos existenciais da IA são as que mais aceleram seu desenvolvimento. O temor central, apontado por Hubinger, é uma "auto-melhora recursiva" que leve a uma explosão de inteligência muito mais rápida do que o previsto. A demissão de Coxon não é apenas a saída de um funcionário, mas um questionamento fundamental sobre se é possível vencer essa corrida tecnológica sem, no processo, perder o controle do resultado.

Com reportagem de Brazil Valley

Source · Forbes España