A fronteira entre o real e o sintético, no campo da imagem, foi oficialmente apagada. A capacidade da inteligência artificial de gerar fotografias indistinguíveis de uma captura autêntica deixou de ser uma previsão para se tornar um fato do presente. A análise vem de dentro de uma das empresas no epicentro da revolução: Daniel Púa, chefe de segurança da Magnific, uma das mais populares ferramentas de IA generativa.
Em uma entrevista ao portal espanhol Xataka, Púa é categórico ao afirmar que “praticamente nenhuma pessoa a primeira vista poderia estar 100% segura de se é IA ou não é IA”. A tese do artigo não é a novidade da tecnologia, mas a fragilidade das defesas que estão sendo erguidas. Enquanto o Vale do Silício corre para criar selos de autenticidade, a realidade mostra que as soluções são, na melhor das hipóteses, paliativas.
As soluções e suas falhas
Duas principais linhas de defesa estão em desenvolvimento: marcas d'água e certificação de metadados. A primeira, exemplificada pelo sistema SynthID do Google, modifica pixels específicos de uma imagem para criar uma assinatura invisível que a identifica como gerada por IA. A segunda, como o padrão aberto C2PA, anexa aos metadados do arquivo todo o seu histórico de criação e edição.
O problema, aponta Púa, é que ambas são fundamentalmente falhas. A marca d'água só funciona se for universalmente adotada; uma imagem sem a marca não prova que é real, apenas que foi gerada por um modelo que não aderiu ao sistema. Já o certificado de metadados é ainda mais frágil: basta uma captura de tela ou o envio por um aplicativo como o WhatsApp, que comprime imagens e remove esses dados, para que toda a cadeia de autenticidade se perca.
O que resta ao usuário?
Se as soluções técnicas são contornáveis, a responsabilidade recai sobre o usuário. A recomendação de Púa é pragmática e, ao mesmo tempo, alarmante: desconfie de qualquer imagem que chegue sem nenhum tipo de metadado, pois até a foto mais simples de um celular carrega essa informação. O ônus da prova se inverteu; o padrão agora é a suspeita.
A questão se tornará ainda mais complexa em breve. Púa estima que o vídeo, hoje um passo atrás da imagem fixa em realismo, alcançará o mesmo patamar de indistinguibilidade em “um ano e pouco”. A janela para encontrar uma solução robusta está se fechando rapidamente, se é que já não se fechou.
A discussão, portanto, deixa de ser puramente tecnológica e passa a ser social. O antigo ditado “ver para crer” tornou-se obsoleto. A tarefa que se impõe não é apenas a de criar ferramentas de detecção, mas a de reconstruir um framework de confiança e literacia midiática para um mundo onde a realidade visual se tornou permanentemente negociável.
Com reportagem de Brazil Valley
Source · Xataka
