A integridade da produção científica global enfrenta uma ameaça sem precedentes com a ascensão da inteligência artificial generativa. O que antes era um fenômeno marginal de má conduta acadêmica transformou-se em um problema sistêmico, onde modelos de linguagem, conhecidos por suas "alucinações", estão inserindo referências bibliográficas inexistentes em artigos que buscam validação em periódicos de alto impacto. Segundo reportagem do jornal La Nación, a escala desse fenômeno cresceu mais de 12 vezes entre 2023 e o início de 2026.

Dados da revista The Lancet indicam que, em 2023, cerca de um a cada 2.828 artigos continha pelo menos uma citação falsa. Em 2026, essa proporção saltou para um a cada 277 publicações. A revista Nature, ao utilizar ferramentas de detecção desenvolvidas pela Grounded AI, confirmou que, em uma amostra de 100 trabalhos suspeitos, 65 continham referências inválidas. A extrapolação desses números sugere que mais de 110 mil publicações científicas apenas em 2025 poderiam estar comprometidas por dados fabricados.

A mecânica da alucinação acadêmica

O problema central reside na natureza probabilística dos modelos de linguagem. Embora sejam treinados para prever padrões de texto, eles não possuem um mecanismo nativo de verificação de fatos ou acesso a bases de dados bibliográficas em tempo real com a precisão exigida pela academia. Quando um pesquisador solicita que a IA redija uma seção de revisão bibliográfica, o sistema frequentemente prioriza a fluidez textual em detrimento da veracidade, criando títulos de artigos e nomes de autores que soam plausíveis, mas que não existem.

Essa prática tem se tornado mais sofisticada com o uso de ferramentas de "humanização", que alteram o estilo de escrita para contornar detectores de IA. O resultado é um texto que mimetiza a estrutura acadêmica, mas que carece de sustentação empírica. A detecção tornou-se, portanto, um jogo de gato e rato, onde a tecnologia de escrita evolui mais rápido do que as ferramentas de auditoria e verificação disponíveis nas universidades e editoras científicas.

O desafio da integridade e da regulação

Percy Mayta, editor científico e vice-reitor de Pesquisa da Universidad Científica del Sur, destaca que a fraude científica não é um fenômeno novo, mas a facilidade proporcionada pela IA alterou a dinâmica da falsificação. O pesquisador aponta que a pressão por produtividade acadêmica, muitas vezes chamada de "publicar ou perecer", cria o incentivo para que estudantes e pesquisadores utilizem a IA como atalho, ignorando a necessidade de verificar a procedência das fontes citadas.

Além disso, existe uma assimetria geracional e técnica no ambiente universitário. Estudantes nativos digitais adotam essas ferramentas com maior celeridade do que o corpo docente, criando uma lacuna na capacidade de supervisão. Sem um entendimento profundo de como os modelos de IA operam, orientadores têm dificuldade em identificar quando um texto, aparentemente bem escrito, está fundamentado em alucinações algorítmicas.

Implicações para o ecossistema científico

As consequências desse cenário são profundas. Uma citação é a base de confiança que sustenta a construção de novos conhecimentos; se ela é falsa, todo o edifício da pesquisa torna-se questionável. Isso mina a confiança pública na ciência e exige uma revisão urgente dos processos de revisão por pares e das políticas de integridade acadêmica. Reguladores e instituições de fomento, como o Concytec, enfrentam agora o desafio de definir diretrizes claras sobre o uso aceitável de IA.

Para o mercado editorial, a necessidade de ferramentas de detecção mais precisas é imediata. O trabalho manual de verificação, embora necessário, tornou-se impraticável dada a escala da produção científica atual. A tensão entre a eficiência tecnológica e a necessidade de rigor científico sugere que a próxima fronteira da pesquisa será a criação de sistemas de verificação automatizados que consigam cruzar dados com repositórios bibliográficos globais em tempo real.

Perspectivas e incertezas

A grande questão que permanece é se o sistema acadêmico conseguirá se adaptar antes que a erosão da confiança se torne irreversível. A autocapacitação dos pesquisadores e a integração de ferramentas de detecção baseadas em modelos como Claude são passos iniciais, mas insuficientes se não forem acompanhados por uma mudança cultural na avaliação da produtividade. O futuro da integridade científica dependerá da capacidade das instituições em equilibrar a inovação tecnológica com a responsabilidade ética fundamental.

O cenário exige, acima de tudo, uma vigilância constante. Enquanto novas ferramentas de detecção não forem universalizadas, a responsabilidade final pelo rigor continua sendo do autor humano. A tecnologia, por ora, atua como um amplificador de intenções, sejam elas de produtividade legítima ou de atalhos fraudulentos que colocam em xeque a credibilidade de todo o sistema de produção de conhecimento. Com reportagem de [Brazil Valley](/categoria/Inteligência Artificial)

Source · La Nación — Tecnología