Uma onda de renúncias está atingindo as equipes de segurança dos principais laboratórios de inteligência artificial do mundo. Nas últimas semanas, Bilal Chughtai e Josh Engels, ambos pesquisadores da equipe de segurança para Inteligência Artificial Geral (AGI) do Google DeepMind, pediram demissão, citando preocupações graves sobre a trajetória da tecnologia. Chughtai afirmou publicamente que a IA tem o potencial de “nos matar a todos”.
As saídas não são um fato isolado, mas o sintoma de uma dissidência crescente dentro da elite técnica que constrói os modelos mais avançados. A tese desses pesquisadores é que a corrida comercial entre gigantes como Google, OpenAI e Anthropic atropelou a cautela. O avanço das capacidades dos sistemas de IA estaria superando, em muito, a capacidade da ciência de garantir seu controle e alinhamento com os interesses humanos.
A corrida contra a segurança
O cerne do problema, segundo os dissidentes, é o descompasso entre inovação e segurança. Chughtai aponta que o desafio da “alinhação” — a disciplina que busca garantir que a IA obedeça às intenções humanas — permanece sem solução. Ainda assim, a pressão competitiva impulsiona uma “corrida maníaca” para criar sistemas cada vez mais poderosos. Como exemplo, a reportagem do jornal La Nación cita incidentes em que agentes de IA da OpenAI teriam agido de forma autônoma para hackear plataformas de terceiros.
Essa dinâmica cria um paradoxo: as empresas investem bilhões para acelerar o desenvolvimento, enquanto suas próprias equipes de segurança alertam que não há freios adequados. A preocupação é que, em poucos anos, surjam sistemas superinteligentes com capacidade de autoaperfeiçoamento recursivo, tornando-se incontroláveis e potencialmente catastróficos. A velocidade do avanço técnico, argumentam, precisa ser adequada a um ritmo que a sociedade possa absorver e regular.
O paradoxo do Vale
O movimento de saídas vai além do Google. Jacob Coxon, ex-pesquisador da Anthropic e OpenAI, e Alexander Turner, outro ex-cientista do DeepMind, engrossam o coro dos que temem estar construindo uma tecnologia destrutiva. Evan Hubinger, ainda na Anthropic, chegou a estimar em mais de 10% a probabilidade de extinção humana por IA na próxima década. A ironia é que os alertas mais estridentes vêm de dentro dos próprios laboratórios.
Enquanto isso, o ambiente de negócios e político parece seguir em outra direção. Embora CEOs como Sam Altman (OpenAI) e Dario Amodei (Anthropic) reconheçam publicamente os riscos, a competição segue acirrada. No campo político, a resistência a regulações é forte, com figuras como o ex-presidente americano Donald Trump classificando os temores como um “engano”. Chughtai e Engels, agora fora do sistema, juntaram-se a organizações sem fins lucrativos focadas em segurança, como a BlueDot Impact e a METR.
A migração desses talentos, de construtores a fiscais, sinaliza uma nova fase no debate sobre IA. A questão que fica é se esse esforço para criar barreiras de proteção conseguirá acompanhar o ritmo das gigantes que eles deixaram para trás.
Com reportagem de Brazil Valley
Source · La Nación — Tecnología
