O debate sobre a autoria de textos gerados por inteligência artificial ganha contornos práticos e, por vezes, polêmicos. Na França, o escritor canadense Thélyson Orélien foi acusado de usar IA para compor sua primeira novela, alegação desmentida pelo autor e baseada em programas detectores de conteúdo artificial. Esse episódio ilustra um dilema cada vez mais presente: até que ponto as ferramentas desenvolvidas para identificar textos de IA são confiáveis?

O surgimento de IAs generativas capazes de produzir textos indistinguíveis da escrita humana impulsionou a criação de dezenas de ferramentas online, muitas delas pagas e voltadas para o mercado acadêmico e de pesquisa. Essas plataformas funcionam a partir da análise de vastas bases de dados compostas por textos gerados por IA e por humanos. Embora a precisão dessas ferramentas tenha melhorado significativamente em poucos anos, a confiabilidade absoluta ainda é um ponto de interrogação.

Como funcionam os detectores de IA?

Os detectores de IA operam buscando "regularidades" e "tiques de linguagem" que, historicamente, eram mais comuns em textos gerados por máquinas. Thierry Poibeau, especialista em processamento de linguagem natural, explica que, embora essa distinção esteja se tornando menos nítida, certos padrões ainda podem ser identificados. A empresa Pangram, por exemplo, afirma analisar "sinais sutis na escrita" para detectar conteúdo artificial. Um exemplo clássico, segundo Poibeau, eram as construções ternárias ou o uso frequente de travessões longos, que apareciam em textos gerados a partir de treinamento com material acadêmico ou literário anglo-saxão.

A confiabilidade em xeque

Diversas ferramentas comerciais ostentam índices de confiabilidade superiores a 99% na detecção de textos gerados por IA. No entanto, esses números podem ser enganosos. Max Spero, cofundador da Pangram, ressaltou em entrevista ao The Atlantic que seu dispositivo jamais deveria ser considerado o "árbitro final", mas sim um ponto de partida para investigações mais aprofundadas. A própria natureza mutável da IA representa um desafio contínuo. Modelos de linguagem evoluem constantemente, buscando imitar cada vez mais a naturalidade da escrita humana.

Desafios na identificação literária

Um dos maiores desafios para os detectores de IA reside na análise de obras literárias, como romances. Poibeau aponta que a ferramenta pode identificar padrões repetitivos ou características incomuns na escrita, mas essas mesmas peculiaridades podem ser simplesmente o estilo distintivo de um autor. Distinguir um estilo autoral de um padrão artificial torna-se uma tarefa complexa, onde a subjetividade e a interpretação humana ainda desempenham um papel crucial. A linha entre o que é artificial e o que é expressão autoral está cada vez mais tênue.

Perguntas em aberto

Diante da rápida evolução da IA generativa e da sofisticação crescente dos detectores, surgem questões fundamentais. Qual o limite para a precisão dessas ferramentas? Como garantir que não sejam usadas para acusações infundadas, como no caso do escritor francês? E, mais importante, como a sociedade e as instituições, especialmente as acadêmicas, devem se adaptar a essa nova realidade, onde a autoria se torna um conceito cada vez mais fluido?

A busca por respostas a essas perguntas é um reflexo da necessidade de equilibrar a inovação tecnológica com a integridade e a autenticidade na produção de conteúdo. A confiabilidade dos detectores de IA, por ora, parece residir mais em sua capacidade de levantar suspeitas do que de oferecer certezas absolutas.

Com reportagem de Brazil Valley

Source · La Nación — Tecnología