A inteligência artificial (IA) se apresenta como uma promessa sedutora para ditadores em busca de controle absoluto. Em um cenário onde a lealdade humana é sempre questionável, a automação e a vigilância algorítmica parecem oferecer uma solução para o dilema milenar de como governar sem ser traído. No entanto, essa tecnologia, ao mesmo tempo que empodera, também cria novas e perigosas vulnerabilidades para os regimes autocráticos.

O caso da propagandista russa Margarita Simonyan, que revelou o uso de âncoras de IA pela RT para contornar a necessidade de salários, seguros e a ameaça de prisão, ilustra o apelo da tecnologia. A capacidade da IA de gerar rostos e vozes que não existem, e de executar tarefas sem a imprevisibilidade humana, é um chamariz para líderes que temem a dissidência interna e a ineficiência de seus subordinados. Tradicionalmente, ditadores preenchem cargos com pessoas medíocres para garantir lealdade, mas isso compromete a capacidade de governar em tempos de crise. A IA, em teoria, eliminaria essa necessidade, permitindo um controle em tempo real e a substituição de funcionários por algoritmos infalíveis.

O Olho Que Tudo Vê: IA na Vigilância e Controle

A China lidera o desenvolvimento de sistemas de IA voltados para a vigilância e substituição de subalternos. Programas de "cidades inteligentes" em centros urbanos chineses utilizam IA para monitorar o desempenho de funcionários locais, submetendo-os a avaliações algorítmicas. O sistema "Zero Trust AI", por exemplo, cruzou mais de 150 bancos de dados governamentais para detectar desvios e nepotismo, embora sua eficácia tenha levado a pressões para seu desmonte parcial. Paralelamente, o Partido Comunista Chinês investe em "gestão de pensamento", usando IA para criar propaganda microdirecionada, com bots substituindo exércitos de comentaristas humanos. A Rússia segue um caminho similar, com um sistema de reconhecimento facial em Moscou e a ferramenta "Oculus" para escanear conteúdo proibido em larga escala, superando em muito a capacidade de censores humanos. O serviço de segurança russo também emprega o "Meliorator" para criar perfis fictícios e disseminar narrativas do Kremlin.

A Nova Guarda Pretoriana Digital

Contudo, a promessa de um estado autônomo é ilusória. Sistemas de IA exigem engenheiros e cientistas de dados para serem construídos e mantidos, indivíduos cuja expertise os líderes políticos muitas vezes não conseguem avaliar plenamente. Essa dependência transfere o poder para um novo grupo: a elite de especialistas em tecnologia. Assim como a antiga Guarda Pretoriana romana, que inicialmente protegia os imperadores mas eventualmente se tornou uma força política capaz de vender o trono, esses engenheiros podem deter um poder considerável. Eles moldam a informação que o líder recebe, decidem quais ameaças são importantes e podem manipular algoritmos de vigilância e censura sem que o governante perceba. Essa concentração de poder em um grupo pequeno e indispensável cria um ponto de falha crítico e um potencial de chantagem ou conspiração, tornando essa nova "guarda" potencialmente mais perigosa do que as elites anteriores.

Indispensáveis e Insubstituíveis?

A importância desses trabalhadores de tecnologia já é clara. Na Rússia, após a invasão da Ucrânia, o Kremlin ofereceu isenções de conscrição e incentivos fiscais aos profissionais de TI, reconhecendo sua indispensabilidade para a manutenção de sistemas cruciais, mesmo que poucos engenheiros sejam necessários para operar a IA. Essa necessidade de reter todo o pool de talentos, mesmo que a maioria não seja utilizada diretamente, demonstra a vulnerabilidade do regime. A história da Guarda Pretoriana ensina que a indispensabilidade pode levar à ambição; um líder futuro pode depender de alertas gerados por máquinas, e os engenheiros que as operam poderiam atrasar ou degradar dados cruciais em um momento de crise, operando efetivamente "às cegas" o governante. Embora esses programadores não possuam armas, sua capacidade de controlar o fluxo de informação pode ser decisiva, como visto em 1991, quando programadores mantiveram a rede funcionando durante uma tentativa de golpe na União Soviética, auxiliando na disseminação das ordens de Boris Yeltsin.

Perguntas em Aberto no Futuro Autocrático

A IA não eliminará a necessidade de todos os funcionários em regimes autoritários, mas permitirá uma reconfiguração e um enxugamento de quadros. O controle sobre os subordinados, sempre o fardo principal do autocrata, pode ser aliviado pela vigilância algorítmica. No curto prazo, a IA oferece vantagens significativas: vigilância mais barata, censura mais eficaz e menos intermediários humanos em quem desconfiar. No entanto, a tentação da IA pode recriar a armadilha que os autocratas tentam evitar. Quanto mais um regime depende da tecnologia, mais ele se torna dependente daqueles que a mantêm. Essa nova elite, como as classes pretorianas do passado, pode um dia descobrir e explorar seu próprio valor indispensável.

O uso da inteligência artificial por regimes autoritários representa um paradoxo: a busca por controle absoluto pode, ironicamente, criar as condições para sua própria instabilidade. A dependência de um pequeno grupo de especialistas em tecnologia, cujas habilidades são difíceis de replicar, confere a eles um poder sem precedentes, ecoando dilemas históricos de lealdade e poder que nem mesmo a tecnologia mais avançada consegue resolver completamente.

Com reportagem de Brazil Valley

Source · Schneier on Security