A romancista americana Mia Ballard teve o lançamento de seu livro cancelado nos Estados Unidos depois que o CEO da Pangram, uma startup de detecção de conteúdo de IA, a acusou publicamente na rede social X. O veredito da máquina: 78% do texto seria artificial. A editora não apenas suspendeu o contrato como a edição britânica, já em circulação, foi retirada do mercado.

O caso, no entanto, tornou-se um estudo sobre os riscos de se confiar cegamente em ferramentas algorítmicas. Uma investigação da revista Wired, repercutida pelo jornal argentino La Nación, expôs a fragilidade técnica e os vieses embutidos nesses sistemas. O episódio de Ballard não é um ponto fora da curva, mas um sintoma de uma tecnologia imatura sendo usada para tomar decisões com consequências reais e, por vezes, devastadoras.

A falibilidade do árbitro

A promessa de um detector infalível de IA esbarra em sua própria lógica de funcionamento. Essas ferramentas analisam padrões estatísticos, como a previsibilidade das palavras e a baixa variação sintática, características comuns em textos gerados por grandes modelos de linguagem (LLMs). O problema, apontado por especialistas, é que muitos textos escritos por humanos — especialmente os mais formais ou diretos — compartilham exatamente esses traços. O resultado é um alto risco de falsos positivos.

A investigação da Wired sobre a Pangram aponta que a ferramenta tem desempenho inferior em textos curtos e pode gerar resultados diferentes para o mesmo trecho, dependendo do contexto. O caso anedótico mais emblemático, no entanto, é o de outro detector que classificou um trecho de Frankenstein, clássico de Mary Shelley escrito há 200 anos, como “100% gerado por IA”.

O viés e as consequências

Além das falhas técnicas, há um problema de viés. Um estudo citado pela reportagem demonstrou que os detectores são mais propensos a classificar como artificiais os textos de escritores não-nativos em inglês. Autores neurodiversos também relatam que seus padrões de escrita são desproporcionalmente sinalizados. A máquina, treinada em um padrão específico, pune quem foge à norma.

O caso de Ballard serve como uma advertência para editoras, instituições acadêmicas e empresas que buscam uma solução tecnológica para um problema de autenticidade. A pressa por um “policiamento” do conteúdo de IA está colocando no mercado ferramentas que não apenas erram, mas podem discriminar. A ausência de uma tecnologia confiável para essa verificação é hoje uma das lacunas mais críticas do ecossistema de inteligência artificial.

Enquanto a tecnologia para gerar conteúdo avança em velocidade exponencial, a capacidade de auditá-la permanece precária. A questão que fica não é apenas sobre como provar a autoria humana, mas sobre quem tem o poder de julgar e com quais ferramentas. A busca por um árbitro digital pode estar criando um problema maior do que aquele que se propõe a resolver.

Com reportagem de Brazil Valley

Source · La Nación — Tecnología