O silêncio que o júri do Prêmio Internacional de Novela Breve Almadía Ventosa-Arrufat elogiou em "Donde el agua trabaja", obra do peruano David Silva Rojas, agora ecoa com um ruído incômodo. A novela, laureada em julho entre mais de 2.200 inscritos de 22 países, com um prêmio de 20.000 euros, encontra-se no centro de um escândalo: uma reportagem do jornal El País, utilizando o detector Pangram, apontou que 99% do texto seria gerado por inteligência artificial. A condição para participar do concurso era clara: obras escritas, parcial ou totalmente, com ferramentas de IA seriam desqualificadas.

Pangram, desenvolvido pela Pangram Labs, é um classificador de texto baseado em redes neuroneis que promete distinguir entre conteúdo humano e gerado por modelos de linguagem. Seus criadores afirmam uma taxa mínima de falsos positivos (0,0041%) e negativos (0,34%), com estudos independentes indicando que ele é menos propenso a classificar texto humano como artificial em comparação com outros detectores comerciais. No entanto, a aplicação prática da ferramenta em 175 best-sellers autopublicados na Amazon revelou que 4 em cada 10 continham ao menos 25% de texto gerado por IA.

O método de El País envolveu a análise de livros publicados antes da ascensão do ChatGPT (considerados como controle, com 0% de IA), textos sintéticos criados por IA e obras de autores consagrados como Javier Cercas e Isabel Allende, que também registraram 0%. A calibração do detector pareceu robusta. Contudo, a própria reportagem e outros testes independentes expõem as limitações de tais ferramentas. Ensaios humanos modificados por IAs de consumo foram, em 41% dos casos, rotulados como humanos por Pangram. A OpenAI, criadora do ChatGPT, chegou a retirar seu próprio detector após reconhecer sua baixa taxa de acerto.

O caso de "Donde el agua trabaja" não é um ponto isolado na crescente onda de suspeitas sobre o uso de IA na criação literária. Relatos semelhantes surgiram com romances francófonos e, em testes mais informais, um simples espaço adicionado a um texto ou a alteração de poucas palavras foram suficientes para mudar o veredito de um detector de 100% humano para 100% IA. A precisão dos detectores, portanto, permanece em xeque, levantando a questão sobre o peso de suas conclusões como prova definitiva.

A fragilidade dos detectores de IA lança uma sombra sobre a própria noção de autenticidade na arte. Se um algoritmo pode ser enganado com facilidade, ou se um texto humano pode ser erroneamente classificado como artificial, onde reside a verdade? O escândalo em torno da novela premiada força uma reflexão mais profunda: o que significa criar na era da inteligência artificial? A linha entre a ferramenta de auxílio e a autoria direta torna-se cada vez mais tênue, e a busca por garantir a originalidade humana em um cenário de avanços tecnológicos acelerados se mostra um desafio complexo e, talvez, sem respostas definitivas. A espada de Dâmocles de um falso positivo pode destruir reputações, enquanto um falso negativo pode passar despercebido, deixando em aberto a questão de quanta máquina e quanta pessoa habita a obra.

Com reportagem de Brazil Valley

Source · Xataka