Na era da ciência, há dois tipos de sensibilidade apocalíptica que capturaram grupos distintos da elite letrada: de um lado, os preocupados com o aquecimento global; do outro, os que temem a ascensão de uma inteligência artificial geral (AGI). O que intriga não é a existência desses temores, mas a quase total ausência de diálogo entre os dois campos, como aponta uma análise filosófica publicada no blog Crooked Timber.

Essa divisão não é trivial. Os movimentos parecem ter sido codificados politicamente: o ambientalismo como uma pauta de centro-esquerda, e o risco existencial da IA como uma preocupação de perfil libertário-tecnológico, próximo à direita. A tese central do artigo é que essa falta de curiosidade mútua, especialmente por parte da comunidade de IA, é um sinal preocupante. A incapacidade de resolver o impasse climático pode conter as lições mais importantes — e ignoradas — sobre o desafio de governar tecnologias transformadoras.

Apocalipses de ontem e de hoje

O medo de um fim do mundo provocado pela própria ciência não é uma novidade. Durante a Guerra Fria, a aniquilação nuclear era uma possibilidade real, debatida por cientistas e estrategistas que modelavam cenários de destruição mútua assegurada. Indo mais longe, a filosofia estoica na Roma Antiga já contemplava o fim de mundos como um evento cósmico recorrente, baseado na instabilidade do sistema solar. Sêneca, em sua obra sobre cometas, já descrevia um universo cíclico de criação e destruição.

Contudo, há uma diferença crucial entre os temores passados e os atuais. A preocupação do século 18 com a estabilidade planetária, por exemplo, foi cientificamente produtiva. Ela impulsionou avanços em matemática e física que, eventualmente, dissiparam o medo ao demonstrar que o sistema solar era mais estável do que se imaginava. O temor nuclear, embora não resolvido, foi contido por meio de uma complexa governança global. A leitura é que os medos de hoje, tanto o climático quanto o da IA, parecem imunes a uma resolução puramente factual ou técnica.

O impasse intratável

No caso das mudanças climáticas, o problema não é a falta de dados científicos. O impasse é fundamentalmente político: uma discordância profunda sobre quem deve arcar com os custos da transição, que tipo de mundo queremos construir e qual nível de risco estamos dispostos a tolerar. Não há um conjunto de fatos que, uma vez descoberto, possa magicamente alinhar os interesses de nações, corporações e indivíduos. O debate está travado na arena da economia política.

Já no campo da IA, o temor se concentra na ideia de autoaperfeiçoamento recursivo — máquinas que se tornam exponencialmente mais inteligentes, fora do controle humano. Esse processo seria agravado pelo que o autor chama de “opacidade de Humphreys”: a incapacidade de monitorar e compreender os processos internos de sistemas de IA complexos em tempo real. O perigo, nesse caso, viria de uma “caixa-preta” que nós mesmos criamos. Assim como no clima, não há uma solução técnica óbvia que possa dissipar o temor de forma definitiva.

O ponto mais agudo da análise reside na ironia do termo “alinhamento”, central para o debate sobre segurança em IA. A comunidade de risco existencial busca alinhar a AGI com os valores humanos, tratando-o como um problema técnico a ser resolvido. O que eles parecem ignorar, no entanto, é que o fracasso do movimento climático é precisamente um fracasso de alinhamento em escala humana e política. A falta de curiosidade sobre por que a humanidade falhou em se alinhar para resolver uma ameaça existencial já manifesta é, talvez, a principal razão para o ceticismo sobre nossa capacidade de gerir a próxima. Se não conseguimos concordar sobre o futuro do planeta, como poderíamos concordar sobre os princípios para guiar uma superinteligência?

Com reportagem de Brazil Valley

Source · Crooked Timber