A OpenAI enfrenta uma nova crise de confiança vinda da comunidade acadêmica. Um segundo matemático, Andreas Thom, acusou publicamente a gigante de inteligência artificial de comportamento antiético e desonesto, questionando a origem dos dados que alimentam os avanços de seus modelos no campo da matemática. A acusação, feita na rede social Mastodon, ecoa uma controvérsia similar ocorrida dias antes, intensificando a pressão sobre a empresa.

O episódio, detalhado em reportagem do The Verge, vai além de uma disputa pontual. Ele expõe uma falha estrutural no desenvolvimento de IA: a opacidade dos dados de treinamento. A suspeita é que a OpenAI possa ter se beneficiado de trabalhos não publicados ou mesmo de interações de pesquisadores com o ChatGPT, sem dar o devido crédito. A questão que fica no ar é se a companhia está usando a comunidade científica como uma fonte de dados não consentida para treinar suas máquinas.

O dilema da caixa-preta

A acusação de Thom e seus colegas tem uma nuance particular: eles temem que as próprias conversas que tiveram com o ChatGPT, enquanto exploravam suas capacidades, tenham servido de insumo para que o modelo, posteriormente, apresentasse soluções para problemas complexos. Se confirmado, o caso estabelece um precedente perigoso, onde a simples interação com uma ferramenta de IA se torna uma forma de cessão de propriedade intelectual não remunerada e não creditada.

O problema central é a natureza de "caixa-preta" dos grandes modelos de linguagem. A OpenAI, assim como seus concorrentes, argumenta que a composição exata de seus vastos datasets de treinamento é um segredo comercial. Essa postura entra em rota de colisão direta com os pilares do método científico, que se baseiam em transparência, revisão por pares e a capacidade de verificar as fontes de uma descoberta. Para a academia, uma afirmação sem fonte é inválida; para a indústria de IA, a fonte é, muitas vezes, o próprio segredo do negócio.

Fronteiras éticas e científicas

O debate levanta questões fundamentais sobre a integridade da pesquisa em uma era dominada pela IA. Se um modelo pode absorver e replicar conhecimento de ponta a partir de fontes não públicas, o sistema de incentivos da ciência — baseado na publicação e no reconhecimento por originalidade — fica sob ameaça. Para que serve o rigor de publicar um artigo se uma IA pode chegar a uma conclusão similar ao "ouvir" conversas informais de especialistas?

A controvérsia não se restringe à matemática; ela é um presságio para todas as áreas do conhecimento onde a IA generativa atua como ferramenta de pesquisa e descoberta. A pressão agora recai sobre a OpenAI para oferecer mais do que negativas vagas. A comunidade científica exige mecanismos de transparência, auditoria e, talvez, a possibilidade de pesquisadores excluírem explicitamente seus trabalhos e interações das bases de treinamento.

O que está em jogo não é apenas a reputação da OpenAI, mas a definição das novas regras de engajamento entre a velocidade da inovação tecnológica e os princípios que governam a produção de conhecimento. A forma como essa tensão for resolvida determinará o futuro da colaboração — ou do conflito — entre cientistas humanos e a inteligência artificial que eles ajudaram a criar.

Com reportagem de Brazil Valley

Source · The Verge