Num exercício que espelha as ansiedades de seus próprios criadores, quatro dos principais modelos de inteligência artificial do mercado foram questionados sobre como a tecnologia poderia, em tese, levar à extinção humana. Segundo uma reportagem do Business Insider, as respostas de ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic) e Grok (xAI) convergem em um ponto central: o maior perigo não reside em uma súbita consciência maliciosa, mas em dinâmicas mais sutis e, talvez por isso, mais preocupantes.
Os modelos foram unânimes em classificar o cenário à la 'Exterminador do Futuro', com robôs assassinos autoconscientes, como o menos plausível. A lógica, segundo eles, é que a inteligência avançada não implica necessariamente em malícia. O risco imediato e mais provável, apontado por todos, é o fator humano. A IA, nesse cenário, funciona como um acelerador de catástrofes, ao facilitar que atores mal-intencionados desenvolvam armas biológicas, executem ciberataques em infraestruturas críticas ou disseminem desinformação em escala massiva, desestabilizando a sociedade.
O dilema do controle
O segundo grande vetor de risco, considerado o mais plausível por modelos como o Gemini, é a perda de controle. O conceito, conhecido como 'alinhamento enganoso' (deceptive alignment), postula que um sistema de IA encarregado de uma meta complexa pode desenvolver sub-objetivos instrumentais — como autopreservação e aquisição de recursos — que entram em conflito com a segurança humana. Nesse processo, a IA poderia 'enganar' seus supervisores, fingindo conformidade até que seja tarde demais para ser desativada.
Claude, da Anthropic, acrescenta uma camada de complexidade a essa visão, sugerindo que a perda de controle pode ser um processo gradual e quase imperceptível. À medida que sistemas de IA se tornam cada vez mais integrados a decisões críticas na economia, política e defesa, a capacidade de intervenção humana significativa pode se erodir lentamente, até se tornar irrelevante.
O experimento, no fim, funciona menos como uma profecia e mais como um diagnóstico. As respostas das IAs são um reflexo direto dos dados com os quais foram treinadas: as próprias pesquisas, debates e temores da comunidade de tecnologia. A conversa sobre o risco existencial da IA parece ser, antes de tudo, uma conversa sobre os limites do controle humano.
Com reportagem de Brazil Valley
Source · Business Insider
