A proliferação de notícias falsas sempre foi um desafio para a sociedade digital. Com o avanço da inteligência artificial generativa, a capacidade de criar imagens, vídeos e áudios cada vez mais realistas, indistinguíveis da realidade, intensificou esse problema. Em resposta, o Google DeepMind lançou em 2023 o SynthID, uma tecnologia de marca d'água embutida em conteúdos gerados por IA, agora disponível para o público. No entanto, a ferramenta, apesar de sua capacidade aprimorada, está longe de ser infalível, levantando questionamentos sobre sua real eficácia como um antídoto contra a desinformação.

O SynthID funciona inserindo uma marca d'água imperceptível no momento da criação do conteúdo de IA. Essa marca é projetada para resistir a edições comuns, como recortes em imagens, compressão de vídeo ou adição de ruído em áudio. Segundo o Google, a tecnologia já marcou mais de 180 bilhões de imagens e vídeos, e mais de 240 mil anos de áudio, demonstrando a escala massiva da produção de conteúdo sintético. A ferramenta permite que usuários submetam arquivos para análise, recebendo em segundos uma estimativa sobre a origem do conteúdo, indicando se foi gerado por IA do Google ou de parceiros.

Limitações na Identificação

A principal fragilidade do SynthID reside na sua falta de padronização. Embora ferramentas de outras empresas como Kakao e Nvidia, além das APIs da OpenAI, integrem a tecnologia, o SynthID só consegue identificar marcas ocultas se o conteúdo foi gerado por IA do Google ou de seus parceiros. Isso significa que, se um conteúdo for criado com um programa de IA diferente, a ferramenta do Google não será capaz de detectar sua origem sintética. Um exemplo prático disso foi a falha em identificar uma imagem claramente gerada por IA, compartilhada por um funcionário da Meta Superintelligence Labs, que não pôde ser reconhecida nem pelo Gemini nem pelo ChatGPT, sugerindo que a ferramenta do Google se limita a um ecossistema fechado.

A Corrida Tecnológica e a Desinformação

A própria indústria de IA, que desenvolve e aprimora modelos generativos, também está envolvida na criação de ferramentas de detecção. Essa dinâmica, onde os criadores de IA também buscam identificar o conteúdo gerado por ela, adiciona uma camada de complexidade. Meta, por exemplo, já em 2024, apontou a dificuldade em identificar todo o conteúdo gerado por IA, pois, assim como surgem ferramentas de detecção, aparecem outras capazes de remover ou manipular as marcas d'água e metadados. A OpenAI, por sua vez, reconhece que seu conteúdo pode não ser identificado se metadados forem alterados ou se o conteúdo vier de modelos mais antigos.

Alternativas e o Futuro da Autenticidade

Diante das limitações de ferramentas como o SynthID, surgem outras abordagens. O padrão C2PA (Coalition for Content Provenance and Authenticity), que inclui grandes empresas do setor, propõe um sistema mais abrangente para rotular conteúdos gerados por IA através da especificação Content Credentials. Uma alternativa mais utópica, porém, é a confiança na responsabilidade humana e na regulamentação. No Brasil, um anteprojeto de lei aprovado em março de 2025 considera infração grave a não rotulagem de conteúdo gerado por IA. Contudo, a realidade atual mostra um bombardeio de conteúdos sintéticos, incluindo influenciadores falsos com mensagens nocivas, que continuam a circular sem identificação clara, impactando audiências.

O SynthID do Google representa um passo na direção correta para combater a desinformação gerada por IA, mas sua eficácia é limitada por não ser um padrão universal e por depender da colaboração entre diferentes desenvolvedores de IA. A corrida entre a criação de IA generativa e as ferramentas de detecção sugere que a batalha pela autenticidade do conteúdo digital está longe de terminar, exigindo soluções mais robustas e colaborativas para garantir a confiança na informação.

Com reportagem de Brazil Valley

Source · Xataka