Vídeos com manipulação de inteligência artificial, possivelmente ligados à Rússia, estão sendo utilizados para espalhar desinformação contra dois candidatos democratas nos Estados Unidos. As peças visuais, que utilizam nomes e fotografias de pessoas reais, buscam minar a reputação dos candidatos com alegações falsas, demonstrando como adversários estrangeiros continuam a empregar táticas conhecidas para influenciar eleitores americanos.
Um dos alvos é o senador Sherrod Brown, em Ohio. Um vídeo, que aparenta ter manipulação de IA, mostra um noticiário com imagens de Haya Akbik, ex-estagiária de Brown, e outros ex-membros de sua equipe. Akbik descreveu o conteúdo como "completamente inventado" e lamentou o uso de seu nome e reputação para espalhar mentiras que prejudicam o senador. Paralelamente, James Talarico, candidato ao Congresso no Texas, enfrenta um vídeo semelhante, apresentado como um confessional de um ex-aluno. O porta-voz de Talarico, JT Ennis, afirmou que "as pessoas mais poderosas do mundo sabem que não podem vencer James Talarico com a verdade, então o difamam com deepfakes de IA, bots estrangeiros e teorias da conspiração para proteger seu sistema político falho e corrupto".
A Ameaça Crescente da IA na Desinformação
Esses incidentes ressaltam a crescente sofisticação e o perigo que a inteligência artificial representa para a integridade dos processos democráticos. A capacidade de gerar conteúdo falso, mas convincente, em larga escala e com baixo custo, abre um novo fronte de batalha para a desinformação eleitoral. Especialistas como Darren Linvill, professor da Clemson University e especialista em forense midiática, identificam semelhanças entre esses vídeos e clipes de uma rede russa conhecida como Storm-1516, que já atuou em campanhas anteriores. A análise das contas que compartilharam o material recente sugere que elas também disseminaram conteúdo da Storm-1516 no passado, reforçando a suspeita de uma origem russa.
Hany Farid, professor da UC Berkeley especializado em deepfakes e análise forense de mídia digital, confirmou que as análises indicam que os vídeos direcionados a Brown e Talarico foram provavelmente gerados ou manipulados com essa tecnologia. Ele descreveu o vídeo contra Brown como uma "falsificação de baixa tecnologia", enquanto o vídeo contra Talarico, gerado por IA, é "consistente com campanhas de desinformação anteriores lançadas perto do Dia da Eleição". A facilidade com que essas falsificações podem ser criadas e disseminadas, mesmo após a remoção inicial das postagens pela plataforma X, demonstra a dificuldade em conter a proliferação de desinformação nos dias cruciais que antecedem as eleições.
O Papel das Plataformas e a Necessidade de Regulação
A resposta das plataformas de mídia social, como a X (anteriormente Twitter), em remover o conteúdo inicial e suspender usuários é um passo necessário, mas muitas vezes insuficiente. A cópia e a republicação dos vídeos, mesmo com centenas de compartilhamentos, evidenciam a resiliência e a rápida disseminação da desinformação online. O caso levanta novamente o debate sobre a responsabilidade das empresas de tecnologia em moderar conteúdo e combater ativamente a manipulação, especialmente quando ela se utiliza de ferramentas avançadas como a IA.
Haya Akbik, uma das pessoas cujas imagens foram indevidamente utilizadas, enfatizou a importância de o Congresso regulamentar o "lixo de IA na internet". A declaração aponta para a necessidade de um arcabouço legal e regulatório que possa lidar com os desafios impostos pela IA, protegendo a reputação de indivíduos e a sanidade do debate público. A lentidão na resposta legislativa e a constante evolução da tecnologia criam um cenário complexo, onde a desinformação pode ter um impacto significativo antes que medidas eficazes sejam implementadas.
Implicações para o Futuro Eleitoral
A utilização de deepfakes e outras formas de conteúdo gerado por IA em campanhas eleitorais representa uma evolução preocupante das táticas de desinformação. A capacidade de criar narrativas falsas e personalizadas, direcionadas a públicos específicos, pode ter um efeito devastador na percepção pública dos candidatos e nas decisões dos eleitores. A dificuldade em distinguir o real do artificial, especialmente em um ambiente digital saturado de informações, exige um nível de ceticismo e de literacia digital cada vez maior por parte do eleitorado.
O cenário atual sugere que as próximas eleições, tanto nos Estados Unidos quanto em outros países, enfrentarão desafios ainda maiores com o avanço contínuo da IA. A corrida entre a capacidade de gerar desinformação e a capacidade de detectá-la e combatê-la está longe de ter um vencedor claro. A colaboração entre governos, plataformas de tecnologia, pesquisadores e a sociedade civil será fundamental para desenvolver estratégias eficazes de mitigação, protegendo a democracia de manipulações cada vez mais sofisticadas.
Com reportagem de Brazil Valley
Source · Fast Company
