A Anthropic, um dos laboratórios de ponta na corrida pela inteligência artificial, enfrenta uma crise de confiança que vem de dentro. Jacob Coxon, pesquisador responsável por treinar modelos de IA, pediu demissão acusando a empresa — e sua rival OpenAI, onde também trabalhou — de uma abordagem negligente à segurança. A demissão foi reportada pelo The Verge.
Para Coxon, as duas companhias estão "correndo diretamente para uma superinteligência auto-aprimorável e apostando com nossas vidas". O gesto ganha contornos dramáticos ao ser somado a uma declaração de outro pesquisador sênior de segurança da Anthropic: a de que haveria uma chance maior que 10% de a IA "matar todos os humanos" até o fim da década. A fissura expõe uma tensão fundamental no coração do desenvolvimento de IA: a velocidade comercial contra a responsabilidade existencial.
A corrida e o freio de mão
A ironia é palpável. A Anthropic foi fundada por dissidentes da OpenAI, que saíram justamente por preocupações com a direção e a segurança da empresa. A promessa era construir uma IA mais segura e alinhada aos interesses humanos. A demissão de Coxon sugere que, na prática, a pressão da competição e a busca por capital e poder computacional podem estar erodindo até mesmo os projetos com as melhores intenções. O episódio ilustra a divisão quase filosófica que cinde o setor.
De um lado, estão os que acreditam que o desenvolvimento acelerado é um imperativo para o progresso. Do outro, um grupo crescente, que inclui alguns dos maiores especialistas do mundo, alerta para a necessidade de pausas, regulação e um alinhamento muito mais robusto antes de se criar sistemas que não se pode controlar. O fato de o alarme agora soar de dentro da Anthropic, o bastião da segurança em IA, sinaliza que o debate interno está mais acalorado do que nunca.
De quem é a responsabilidade?
Quando os próprios arquitetos da tecnologia começam a abandoná-la por medo de suas consequências, a questão deixa de ser técnica e passa a ser de governança. Quem audita essas empresas? A quem elas respondem? A acusação de Coxon de que se está "apostando com nossas vidas" não é retórica; é uma descrição literal do que parte da comunidade técnica sente que está em jogo.
O incidente na Anthropic não é um caso isolado, mas um sintoma de uma indústria que, para muitos, opera sem freios adequados. A discussão sobre os riscos existenciais da IA saiu dos artigos acadêmicos e agora motiva demissões e declarações públicas de alerta. A pergunta que fica é se o mercado, os investidores e os reguladores estão dispostos a ouvir os avisos antes que seja tarde.
Com reportagem de Brazil Valley
Source · The Verge
