A Wikipedia, um dos pilares da informação na internet, enfrenta uma batalha silenciosa para manter sua integridade diante do avanço da inteligência artificial generativa. O WikiProject AI Cleanup, um esforço voluntário lançado em 2023, dedica-se a identificar e remover conteúdo gerado por IA que viola as diretrizes da plataforma. Inicialmente, o material artificial era facilmente detectável por clichês repetitivos e estruturas de texto incomuns para a enciclopédia. Contudo, a evolução dos modelos de IA exige ferramentas e estratégias cada vez mais sofisticadas.

A Evolução da Detecção: De Clichês a Estruturas Sutis

O problema com o conteúdo gerado por IA na Wikipedia tornou-se evidente por volta de dezembro de 2022. Editores notaram artigos com frases como "stands as a testament" ou "rich cultural heritage", além de seções de conclusão ou "Why is this important?", características típicas de modelos como o ChatGPT da época. A resposta inicial foi a criação do WikiProject AI Cleanup para centralizar os esforços. Hoje, a detecção vai além de clichês. A IA frequentemente emprega a "regra de três", paralelismos negativos e outras estruturas retóricas que, embora não conclusivas isoladamente, ganham significado em conjunto. A velocidade com que artigos extensos são publicados também levanta suspeitas: cinco artigos de milhares de palavras em poucos minutos são um forte indício de autoria artificial.

O Desafio das Citações e a Escalada Tecnológica

Um dos maiores receios atuais reside nas citações falsas ou enganosas. Modelos de IA podem alucinar citações inteiras, embora a geração aumentada por recuperação (RAG) tenha tornado isso menos comum. Mais frequente é a IA encontrar uma fonte real, mas distorcer ou inventar o conteúdo que ela supostamente suporta. A English Wikipedia já proibiu o uso de LLMs para gerar artigos, mas a eficácia dessa regra ainda está sob escrutínio. Estimativas recentes, utilizando ferramentas como a da empresa Pangram, indicam que cerca de 15-16% dos novos artigos e rascunhos poderiam ser gerados por IA. A redução em relação a estimativas anteriores (20%) pode ser resultado das novas políticas ou do aprimoramento dos modelos de IA, que desafiam as ferramentas de detecção.

Ferramentas de IA e a Identidade Humana da Wikipedia

Para combater a IA, a própria Wikipedia recorre a ferramentas baseadas em IA. Um verificador de fontes desenvolvido por um editor analisa se as fontes citadas realmente corroboram as afirmações. Embora não infalível, é um passo crucial para filtrar casos óbvios em escala. A Wikimedia Foundation também trabalha no Paste Check, que identifica textos colados de chatbots de IA. Algumas IAs comerciais já recusam pedidos para escrever artigos da Wikipedia, citando políticas da plataforma, o que ajuda a limitar o uso de modelos comerciais por usuários menos técnicos. A questão central que emerge é: o que acontecerá se a IA for capaz de escrever artigos verdadeiramente confiáveis para a Wikipedia? A proibição inicial foi uma medida prática contra o "AI slop", mas o debate agora assume uma dimensão filosófica. A identidade da Wikipedia como "o último bom lugar na internet", livre de conteúdo artificial, está em jogo. A comunidade debate se a enciclopédia deve abraçar ou rejeitar a IA em sua essência.

Com reportagem de Brazil Valley

Source · IEEE Spectrum — AI