Jared Kaplan, o cientista-chefe da Anthropic, emergiu como uma figura central no debate sobre o futuro da inteligência artificial (IA). Sua previsão, feita no final do ano passado, de que o desenvolvimento de IA poderia levar a uma "explosão de inteligência" caso os sistemas começassem a se treinar autonomamente, ganhou força e atenção. Kaplan lidera a pesquisa e o "escalonamento responsável" na Anthropic, uma das empresas mais influentes na corrida pela IA.
O Sábio da IA: Kaplan e a Previsão do Risco
As preocupações de Kaplan centram-se na possibilidade de que sistemas de IA de ponta, ao atingirem a capacidade de se auto-treinar, possam evoluir de forma imprevisível e incontrolável. Ele descreveu essa perspectiva como o "risco último" e uma "decisão assustadora" para a humanidade, com um ponto de inflexão potencial entre 2027 e 2030. Essa linha do tempo parece estar se concretizando, com sistemas de IA de última geração já auxiliando na construção de modelos em laboratórios como Anthropic e OpenAI. Kaplan, um físico que se tornou pesquisador de IA, deixou a OpenAI para cofundar a Anthropic em 2021. Sua posição na empresa confere grande peso às suas advertências sobre os riscos de a IA sair do controle. Ele é responsável por mitigar esses perigos, e cada vez mais pessoas estão ouvindo.
Do Laboratório à Arena Pública: A Ascensão das Advertências de Kaplan
As preocupações de Kaplan não são apenas teóricas e ecoam em toda a indústria. Recentemente, a renúncia de pesquisadores de segurança de importantes laboratórios de IA, acompanhada de alertas públicos, amplificou o debate. Em uma postagem que viralizou, um desses pesquisadores citou a corrida por capacidades avançadas sem as devidas salvaguardas, acusando a liderança da indústria de "apostar com nossas vidas". Essa apreensão se reflete em pesquisas de opinião, com cerca de dois terços dos americanos agora temendo que a IA possa destruir a humanidade, de acordo com uma pesquisa da Politico. O tema também chegou a Washington, onde legisladores estão propondo novas leis e prestando mais atenção às preocupações de segurança em IA. Jeffrey Ladish, ex-engenheiro da Anthropic e fundador da organização sem fins lucrativos Palisade Research, tem usado as observações de Kaplan ao se reunir com legisladores, destacando como a auto-treinabilidade da IA pode levar à perda de controle. A transparência de engenheiros e pesquisadores, cujas preocupações não são motivadas por relações públicas, é vista como crucial nesse cenário.
A Trajetória de um Físico para o Futuro da IA
A carreira de Kaplan na IA é uma segunda vocação. Sua formação inicial em física, tanto em Harvard quanto em Princeton, moldou sua abordagem analítica e conceitual. Seus antigos colaboradores o descrevem como perspicaz e sensato. Nima Arkani-Hamed, seu orientador em Harvard, lembra-se da força de Kaplan em seguir "grandes pontos conceituais", uma habilidade que se mostrou perfeitamente adequada para o campo emergente da IA. Kaplan resumiu sua metodologia como a busca por "confusão em algum nível básico", questionando se as perguntas certas estão sendo feitas da maneira correta. Essa curiosidade o levou a se aprofundar na IA, inicialmente como consultor na OpenAI, onde contribuiu para o influente artigo "Scaling Laws for Neural Language Models". Este trabalho demonstrou que modelos maiores produziam melhores resultados, estabelecendo um paradigma para o boom da IA.
O Dilema da Auto-Melhoria e as Implicações Globais
O artigo sobre "scaling laws", publicado em 2020, juntamente com a introdução do modelo GPT-3, solidificou a reputação de Kaplan e de seus colegas. No entanto, a crença de que a "humanidade entregaria o controle à IA transformadora" levou Kaplan, Dario Amodei e outros a fundarem a Anthropic. Atualmente, a Anthropic está à beira de uma oferta pública inicial (IPO) significativa, enquanto as advertências de Kaplan sobre a IA auto-treinável ganham mais relevância. Dario Amodei, o rosto público da Anthropic, recentemente defendeu um "ritmo" no desenvolvimento da IA, alertando que o avanço acelerado, impulsionado pela capacidade da IA de construir a próxima geração de IA, pode superar nossa capacidade de controle. David Duvenaud, que trabalhou sob Kaplan na equipe de alinhamento da Anthropic, descreve a situação como um "aposto insano", mesmo com os humanos mais sensatos no comando. A necessidade de mecanismos de "kill switch" e a apreensão em permitir a auto-melhoria automática da IA destacam a seriedade com que esses riscos estão sendo tratados.
O debate sobre o futuro da IA, impulsionado pelas previsões de Jared Kaplan, levanta questões cruciais sobre controle, segurança e o próprio destino da humanidade. A trajetória de um físico que se tornou um dos principais pensadores sobre os riscos existenciais da IA sublinha a urgência em compreender e gerenciar o poder crescente dessa tecnologia.
Com reportagem de Brazil Valley
Source · Business Insider
