Durou menos de 24 horas o mais novo experimento do Google com inteligência artificial generativa. A empresa lançou e, em seguida, descontinuou uma ferramenta no Google Earth, apelidada de “Nano Banana”, que permitia aos usuários sobrepor imagens criadas por IA à cartografia real do planeta. O motivo do recuo abrupto: em poucas horas, a funcionalidade foi usada para criar desinformação, como imagens de usinas nucleares fictícias no Irã e falsas cenas de crise de refugiados na fronteira dos EUA com o México.

O episódio é mais do que um simples tropeço de produto. Ele materializa um conflito fundamental na atual corrida tecnológica: a colisão entre uma tecnologia inerentemente sintética, a IA generativa, e plataformas cuja proposta de valor é o registro fiel da realidade. O Google afirmou que as imagens geradas eram marcadas como artificiais e não apareciam na experiência principal do Earth, mas o dano à percepção de confiança foi imediato.

A crise de confiança anunciada

Por quase duas décadas, o Google Earth se estabeleceu como um arquivo visual do mundo físico, uma fonte de consulta para cidadãos, pesquisadores e jornalistas. A decisão de integrar uma ferramenta de fabricação de imagens, mesmo com salvaguardas, ataca diretamente esse pilar. Como apontou Henk Van Ess, especialista em pesquisa online, a mera existência da ferramenta já é suficiente para que qualquer imagem real possa ser desacreditada como “gerada por IA”.

As proteções do Google, como a marca d'água criptográfica “SynthID”, provaram-se insuficientes. Segundo a professora Emily Black, da NYU, em declaração à Fortune, essa marca é “invisível a olho nu” e pode ser facilmente removida com uma simples captura de tela. A solução técnica não endereçou o problema humano e social: a facilidade com que a desinformação pode ser criada e distribuída, superando barreiras técnicas de detecção.

O dilema da inovação apressada

O caso do Earth AI é um sintoma da ansiedade que domina as big techs. Na pressa para infundir IA generativa em todos os seus produtos — do Docs ao buscador —, as empresas parecem subestimar as consequências de segundo e terceiro grau, especialmente em contextos onde a verdade é o ativo principal. A confiança do usuário, construída ao longo de anos, pode ser erodida em um único dia.

A pesquisa da própria professora Black demonstra que simples avisos de que “a IA pode cometer erros” são pouco eficazes para dissuadir os usuários de confiarem em informações falsas. Em uma plataforma visualmente crível como o Google Earth, o viés de confirmação é ainda mais forte. O que foi concebido para usos legítimos, como visualizações de projetos urbanos, tornou-se, na prática, um motor de ficção com potencial destrutivo.

O Google prometeu retirar a ferramenta para “implementar salvaguardas mais fortes”. A questão fundamental, no entanto, permanece. A integração da IA generativa em plataformas de realidade não é um desafio apenas técnico, mas filosófico. A próxima tentativa não será julgada por sua sofisticação tecnológica, mas por sua capacidade de responder a uma pergunta simples: como separar, de forma inequívoca, o mapa do território?

Com reportagem de Brazil Valley

Source · Fortune