A OpenAI anunciou a criação de um painel independente de matemáticos de renome, batizado de Advisory Group on Mathematics and Artificial Intelligence (AGMAI). A iniciativa, hospedada pelo prestigioso Institute for Advanced Study (IAS) em Princeton, EUA, tem como objetivo principal mediar a complexa relação entre a inteligência artificial (IA) e a pesquisa matemática. O movimento surge em resposta a uma série de controvérsias que abalaram a confiança na empresa, especialmente no que diz respeito à divulgação de resultados matemáticos gerados por seus modelos e às críticas sobre reconhecimento de autoria, comunicação e práticas acadêmicas.

A formação do AGMAI, composto por nove integrantes com afiliações em instituições como Stanford, Harvard, Oxford e Cambridge, busca trazer rigor e credibilidade ao processo. Entre os membros estão laureados com a Medalha Fields e bolsistas MacArthur, reconhecendo a elite acadêmica que compõe o grupo. A OpenAI afirma que o painel operará com total independência, com liberdade para oferecer recomendações, inclusive sem serem solicitadas, e para comentar publicamente sobre o impacto da IA na matemática. Suas atribuições incluirão a revisão e comunicação de novos resultados matemáticos, avaliação da importância das descobertas, orientação sobre a divulgação e estabelecimento de padrões acadêmicos e profissionais. Adicionalmente, o grupo deverá aconselhar sobre como as ferramentas de IA podem apoiar o aprendizado e a pesquisa na área.

Origens e Dúvidas sobre a Independência

Apesar da declaração de independência, a criação do AGMAI gerou surpresa e ceticismo em parte da comunidade matemática. Pesquisadores ouvidos pelo The Verge expressaram preocupações sobre a operacionalização prática do grupo, sua real influência sobre as decisões da OpenAI e a probabilidade de a empresa acatar suas recomendações. O pesquisador Simon Machado, da ETH Zurich, descreveu a formação do painel como "envolta em mistério", questionando os critérios de seleção dos nove integrantes. O próprio site do grupo indica que a iniciativa partiu de uma abordagem da OpenAI a alguns matemáticos, que então decidiram formar um conselho externo e independente. No entanto, os detalhes sobre quais membros foram contatados inicialmente e como os demais foram escolhidos permanecem pouco claros, alimentando especulações.

Em resposta a essa "avalanche de desinformação", Martin Hairer, um dos integrantes do grupo, publicou um artigo no blog Proofs and Prompts, explicando a origem da iniciativa. Ele confirmou o contato inicial da OpenAI, mas ressaltou que nem todos os membros foram procurados pela empresa. Hairer enfatizou a "genuína independência" do grupo em relação à OpenAI e outras companhias de IA, destacando que os integrantes não recebem compensação financeira e contam com suporte técnico do IAS, sem acordos que restrinjam sua liberdade de expressão pública.

Elite Matemática e Representatividade

O objetivo central do AGMAI, segundo Hairer, é representar os interesses da comunidade matemática. Contudo, ele mesmo reconhece que os nove integrantes, por mais renomados que sejam, estão longe de ser uma amostra representativa de toda a área. A matemática moderna é vasta e exige conhecimentos altamente especializados em diferentes subcampos. O tamanho reduzido do grupo levanta questionamentos sobre sua capacidade de abranger a diversidade de especialidades necessárias para avaliar resultados em todas as frentes da pesquisa.

Francesco Fournier-Facio, futuro professor de matemática na Heriot-Watt University, expressou ambivalência. Embora veja potencial em uma maior aproximação entre empresas de IA e matemáticos, ele questiona se os membros do AGMAI realmente representam a comunidade mais ampla afetada pelos avanços da tecnologia. "Parece uma torre de marfim", comentou ao The Verge, ecoando a preocupação de Machado sobre se esses matemáticos de elite conseguem capturar as preocupações de pesquisadores fora desse círculo prestigiado. A realidade vivida por esses acadêmicos de ponta pode ser significativamente diferente daquela enfrentada pela maioria dos matemáticos.

Novos Resultados e o Desafio da Divulgação

Um dos primeiros e mais urgentes desafios do AGMAI já foi definido: a OpenAI revelou que um novo modelo ainda não lançado, supostamente capaz de resolver o problema do Prêmio Millennium de Navier-Stokes, também teria solucionado mais de 100 problemas matemáticos abertos de longa data. O grupo terá a tarefa de orientar a empresa sobre como coordenar a divulgação dessa vasta quantidade de resultados matemáticos significativos. Essa missão se torna ainda mais crítica após meses de críticas à forma como a OpenAI apresentou descobertas anteriores, incluindo acusações de apropriação indevida de trabalhos, falha no reconhecimento de contribuições humanas e uso indevido de trabalhos de terceiros.

Essas controvérsias levaram a comunidade a questionar se a OpenAI compreendia e respeitava as práticas e a ética da comunidade matemática. Hairer argumentou que seria contraditório não dialogar com a empresa agora que ela demonstra interesse em estabelecer uma relação com os pesquisadores. Embora as recomendações ainda não tenham sido definidas, o problema central — a publicação e divulgação de descobertas científicas em conformidade com os padrões aceitáveis pela comunidade matemática — foi identificado. O grupo está ativamente coletando opiniões e promovendo discussões para formar suas diretrizes.

Perguntas em Aberto e o Poder da Comunicação

Um ponto de atenção levantado por Hairer é o poder de comunicação das empresas de IA. Ele reconhece que seria ingênuo acreditar que laboratórios como a OpenAI não tentarão apresentar as declarações do painel de forma a favorecer suas próprias estratégias de relações públicas. Essa dinâmica levanta a questão de como o AGMAI poderá garantir que suas recomendações sejam comunicadas de forma imparcial e transparente, resistindo a possíveis manipulações de imagem por parte da empresa.

Kevin Buzzard, professor de matemática do Imperial College London, expressou um ceticismo adicional, questionando a necessidade de um comitê tão seleto para entender as demandas da comunidade matemática. "Não eram provas de teoremas difíceis, era uma melhor compreensão da nossa área", afirmou. Para ele, não está claro por que um comitê de indivíduos brilhantes seria essencial para transmitir essa mensagem. A formação do AGMAI, embora um passo na direção certa, deixa em aberto se a elite matemática conseguirá efetivamente representar e defender os interesses de toda a comunidade em face do avanço acelerado da IA.

A criação do AGMAI pela OpenAI representa um esforço para reconstruir a confiança e estabelecer um diálogo mais produtivo entre a inteligência artificial e a pesquisa matemática. A capacidade do grupo de manter sua independência e de influenciar as práticas da empresa, bem como de navegar as complexas dinâmicas de comunicação e representatividade, definirá o sucesso dessa iniciativa pioneira.

Com reportagem de Brazil Valley

Source · Olhar Digital