A renúncia de um pesquisador de inteligência artificial se tornou o estopim de uma crise de credibilidade para os principais laboratórios do setor. Jacob Coxon, que afirma ter atuado na OpenAI e na Anthropic, publicou em sua conta no X (antigo Twitter) que estava deixando seu cargo por discordar da corrida "irresponsável" pela superinteligência. Segundo ele, as empresas estão "jogando com nossas vidas". O que poderia ser apenas mais um manifesto se transformou quando colegas da própria Anthropic vieram a público para concordar com a premissa, conforme reportado pela revista Fast Company.

A confissão dos construtores

A validação interna é o que torna o episódio singular. Evan Hubinger, líder da área de alinhamento de segurança na Anthropic, respondeu diretamente a Coxon, afirmando: "Nós realmente acreditamos que a IA pode matar todos os humanos!". Hubinger foi além e estimou a probabilidade em "mais de 10% na próxima década". Ele admitiu que, embora a Anthropic esteja "tentando o seu melhor", a empresa ainda não tem um plano para garantir o alinhamento de uma futura superinteligência. A declaração corrobora a tese de Coxon de que o medo não é um "golpe de marketing", mas uma crença genuína dentro dos laboratórios.

Da ética à política

O debate transbordou rapidamente do Vale do Silício para Washington. O senador americano Bernie Sanders repercutiu o caso, declarando que Coxon "está certo" e anunciando que irá propor legislação para "banir a superinteligência e pausar o desenvolvimento de IA". Enquanto isso, a identidade de Coxon permanece um ponto de interrogação — seu perfil digital é quase inexistente, embora sua passagem pelas empresas tenha sido reportada pelo The Wall Street Journal. A questão, no entanto, parece ter se tornado secundária.

O alerta de Coxon, amplificado por seus pares, move a discussão sobre os riscos da IA de um plano teórico para uma crise operacional. A dúvida não é mais se os modelos atuais são perigosos, mas se as próprias organizações que os constroem perderam o controle da narrativa e, talvez, do próprio ritmo de desenvolvimento que impuseram a si mesmas.

Com reportagem de Brazil Valley

Source · Fast Company