Os principais modelos de inteligência artificial, como ChatGPT, Gemini e Claude, foram treinados para serem guardiões da verdade. Um novo estudo do Brennan Center for Justice confirmou que, ao serem confrontados com teorias da conspiração sobre fraudes eleitorais, os chatbots consistentemente refutam as alegações falsas. Contudo, a pesquisa expôs uma fratura fundamental: as mesmas empresas por trás desses chatbots oferecem ferramentas de imagem que, sem hesitar, geram conteúdo visual que ilustra e reforça exatamente as mentiras que o texto nega.

Este paradoxo não é um mero detalhe técnico, mas uma falha sistêmica na abordagem da indústria de IA à moderação de conteúdo. Segundo reportagem da Fast Company, enquanto a camada textual dos modelos recebe um polimento rigoroso para evitar desinformação, a geração de imagens permanece um campo fértil para a manipulação. A leitura é que as salvaguardas são aplicadas de forma desigual, criando um vetor de desinformação visual potente e de fácil acesso.

A esquizofrenia da moderação

Os pesquisadores testaram os chatbots com alegações como “não cidadãos votam em massa” e “urnas eletrônicas são fraudadas”. Os modelos se recusaram a validar as premissas, mesmo sob insistência. No entanto, a precisão ainda é um problema: um terço das respostas continha algum tipo de erro factual ou citação enganosa. O problema maior, porém, foi a dissociação entre texto e imagem. Ao solicitar ilustrações das mesmas teorias, os sistemas prontamente geraram imagens de pessoas coletando cédulas de forma ilícita, um processo conhecido no jargão conspiratório como “ballot harvesting”.

Essa capacidade de ilustrar a desinformação mina a refutação textual. Em um ambiente de redes sociais, onde o impacto visual é imediato e a leitura, superficial, uma imagem que “prova” a fraude pode ter um poder de convencimento muito superior a um parágrafo que a explica. O estudo sugere que, embora os modelos tenham sido programados para agir como “ouvintes simpáticos” que corrigem o usuário, sua capacidade de criar evidências visuais falsas anula, na prática, esse esforço.

Do laboratório para a campanha

O risco não é teórico. A reportagem aponta que a mídia gerada por IA já está sendo usada de forma explícita em campanhas políticas nos Estados Unidos. Exemplos incluem vídeos falsos de candidatos e imagens que retratam oponentes de forma caricata ou maliciosa. Essas táticas, por enquanto restritas a disputas locais e primárias, funcionam como um laboratório para o que pode se tornar prática comum em eleições de maior escala.

A velocidade com que esse conteúdo pode ser criado e distribuído supera em muito a capacidade de verificação e moderação das plataformas. O estudo do Brennan Center demonstra que as ferramentas para criar essa desinformação não estão apenas nas mãos de atores maliciosos, mas são oferecidas pelas mesmas empresas que publicamente se comprometem a combater o problema.

A questão que emerge não é se essa vulnerabilidade será explorada em larga escala, mas como o ecossistema de tecnologia e os reguladores irão responder. A dissociação entre o que a IA diz e o que ela mostra revela que as políticas de segurança atuais são, na melhor das hipóteses, incompletas, deixando uma porta aberta para a manipulação da opinião pública em momentos críticos.

Com reportagem de Brazil Valley

Source · Fast Company