A promessa de uma inteligência artificial politicamente neutra enfrenta um desafio estrutural: a censura de regimes autoritários não fica contida em suas fronteiras digitais. Uma nova leva de pesquisas, detalhada em uma reportagem da revista Fortune, revela que os principais modelos de IA de empresas americanas, como OpenAI, Google e Anthropic, estão absorvendo e replicando propaganda e normas de censura da China.
O fenômeno parece ser menos uma conspiração deliberada de Pequim e mais uma consequência inevitável da forma como os modelos são treinados. Ao ingerir vastos volumes de dados da internet, eles acabam por "lavar" conteúdo manipulado por governos, apresentando-o como texto objetivo. A leitura aqui é que o ecossistema de informação rigidamente controlado pela China está, na prática, vazando para as ferramentas de IA usadas globalmente, comprometendo sua suposta imparcialidade.
A propaganda como dado de treino
Um estudo revisado por pares e publicado na revista Nature dissecou o problema na origem: os dados de treinamento. Pesquisadores identificaram mais de três milhões de documentos em chinês no CulturaX, um dataset de código aberto usado para treinar LLMs. A análise mostrou que modelos como Claude e as várias versões do GPT conseguiam reproduzir frases distintivas da mídia estatal chinesa em até 10% das vezes.
Para testar o impacto, os pesquisadores realizaram um experimento controlado. Eles refinaram o modelo Llama 2 da Meta — escolhido por ter pouquíssima influência da mídia estatal chinesa em sua base — com apenas 6.400 exemplos de notícias roteirizadas pelo governo chinês. O resultado: o modelo passou a gerar respostas favoráveis a Pequim em quase 80% das ocasiões. Em um exemplo notável, ao ser perguntado se a China é uma autocracia, o modelo modificado descreveu o país como democrático, invocando o conceito de "democracia popular" do Partido Comunista.
Censura por procuração
Outro estudo, conduzido pelo conselho de supervisão independente da Meta, identificou uma manifestação diferente do mesmo problema, batizada de "censura por procuração". Os modelos de IA americanos se comportam como se as restrições políticas de países autoritários se aplicassem a usuários em qualquer lugar do mundo. Em testes, os modelos se mostraram duas vezes mais propensos a recusar pedidos para criticar governos em países com leis de expressão restritivas (como China e Arábia Saudita) do que em nações mais livres.
As disparidades são gritantes. O Claude Sonnet, da Anthropic, recusou todos os pedidos para criar um panfleto de protesto contra Xi Jinping, mas gerou todos os cinco solicitados contra o ex-presidente Donald Trump. O Gemini Pro, do Google, exibiu um padrão semelhante. Em muitos casos, os modelos justificaram a recusa citando leis locais de lesa-majestade ou de segurança nacional, mesmo que o pedido fosse feito da Austrália. O efeito prático é que as normas de regimes repressivos são internalizadas e aplicadas em escala global.
O problema, portanto, transcende a China. Os dados sugerem que os modelos de IA tendem a ser mais deferentes com países que possuem menor liberdade de imprensa. Para uma indústria que vende seus produtos como ferramentas universais e objetivas, a questão é profunda. O desafio não é apenas técnico, mas geopolítico: como construir uma IA verdadeiramente global quando uma parcela significativa da informação digital do planeta é produzida sob o jugo do autoritarismo?
Com reportagem de Brazil Valley
Source · Fortune
