A militarização da inteligência artificial na indústria musical ultrapassou os debates teóricos sobre direitos autorais para se tornar um vetor direto de extração financeira e roubo de identidade. Em reportagem recente da TIME, o jornalista Andrew Chow expõe como a banda de rock Sons of Legion, baseada em Nashville, tornou-se alvo de uma rede de fraudes digitais. O vocalista Adam McInnis relata que golpistas têm utilizado réplicas sintéticas de sua imagem e voz para estabelecer falsos relacionamentos com fãs ao redor do mundo, extraindo centenas de milhares de dólares no processo.
A industrialização da fraude parassocial
A mecânica do golpe opera em escala. Fraudadores criam dezenas de páginas e perfis no Facebook, contatando seguidores e assumindo a identidade de McInnis por meio de vídeos alterados e mensagens de voz geradas por IA. O impacto real dessa operação tornou-se visível quando a banda saiu em turnê. Nos encontros presenciais, fãs abordaram os músicos afirmando estar em relacionamentos amorosos com eles. As vítimas relataram a compra de cartões de membro — um item que a banda sequer comercializa — e o envio de fundos em criptomoedas para cobrir supostos custos com divórcios ou despesas hospitalares.
A sofisticação do engodo sustenta interações prolongadas. McInnis cita um encontro em Nova York onde pôde observar o telefone de uma fã que recebia cerca de dez ligações diárias do impostor sintético, uma dinâmica que se estendeu por meses. Para contexto, a análise editorial reconhece que golpes de romance utilizando falsos perfis antecedem a era da IA generativa, operando historicamente via texto; no entanto, a introdução de síntese de voz e alteração facial eleva drasticamente a assimetria da fraude, dificultando a distinção entre interações autênticas e automatizadas.
A saturação sintética no streaming
Além do sequestro de identidade nas redes sociais, a Sons of Legion enfrenta uma segunda frente de atrito tecnológico: a competição algorítmica. A banda descobriu que as recomendações do Spotify direcionadas aos seus ouvintes frequentemente consistem em faixas geradas por IA. Na prática, músicos reais agora competem diretamente contra artistas falsos por streams autênticos. Para McInnis, o combate aos golpistas tornou-se também uma defesa da própria tradição da música feita por humanos.
O vocalista argumenta que o público subestima a capacidade atual da tecnologia. Segundo ele, as pessoas limitam sua percepção da IA a ferramentas de texto como o ChatGPT, sem compreender o quão robustos os sistemas se tornaram, capazes de criar "mundos inteiros". Para mitigar os danos, a Sons of Legion firmou parceria com a Lodi, uma empresa de detecção de IA, visando identificar e remover contas fraudulentas. Contudo, como Chow aponta no encerramento da reportagem, a solução é temporária: uma vez que as contas são derrubadas, os golpistas simplesmente migram para o próximo artista, reiniciando o ciclo de extorsão que busca de nudes a transferências em Bitcoin.
A dupla ameaça de golpes de deepfake e competição algorítmica sintética redefine o custo de operação para artistas emergentes. O ônus do policiamento de identidade foi transferido para os próprios criadores, que agora precisam caçar ativamente seus clones digitais para proteger seu público. Enquanto plataformas sociais e de streaming permanecerem vulneráveis à proliferação de mídia sintética, a extração de capital da base de fãs continuará a escalar de forma automatizada.
Source · @time
