Jacob Coxon, um ex-pesquisador de IA que recentemente pediu demissão da Anthropic, alertou legisladores de Nova York sobre os perigos iminentes da automação da pesquisa em inteligência artificial. Em seu testemunho, Coxon descreveu sua experiência em laboratórios de ponta como OpenAI e Anthropic, afirmando que o objetivo principal dessas empresas é, em essência, "trabalhar para se automatizar". Ele destacou que a capacidade de uma IA conduzir sua própria pesquisa, um marco que ele esperava para 2027 ou 2028, está se concretizando "em questão de meses", não anos.

A Aceleração da Automação em IA

Coxon, que se demitiu publicamente da Anthropic em um post viral no X, expressou profunda preocupação com a velocidade com que a tecnologia avança e a aparente falta de salvaguardas adequadas. "No meu último emprego, eu estava, em certo sentido, trabalhando para me automatizar", declarou Coxon durante a audiência do Conselho Municipal de Nova York, focada nos riscos da IA. Ele relatou que, em suas passagens pela OpenAI e Anthropic, já existiam metas estabelecidas para o desenvolvimento de um "pesquisador de IA automatizado", com projeções que estão sendo cumpridas ou superadas antes do esperado. Essa aceleração, segundo ele, significa que "os humanos estarão muito mais fora do circuito do que hoje, e hoje já não é nada bom".

A Perda de Controle Humano

Uma das preocupações centrais de Coxon é que, uma vez que a IA seja capaz de realizar pesquisas de forma autônoma, a capacidade humana de compreender e controlar seus resultados será drasticamente reduzida. Ele mencionou que, atualmente, a maior parte do código escrito já é gerada por IA, e que os humanos não o revisam com o rigor necessário. "É mais provável do que não que a humanidade perca o controle para essas IAs, e isso pode acabar em extinção humana", alertou Coxon, descrevendo as empresas do setor como "extremamente imprudentes, dadas as apostas". A mentalidade de "mover rápido, quebrar coisas, consertar depois", comum em startups, é vista por ele como inadequada para o desenvolvimento de uma tecnologia tão poderosa.

Chamado por Transparência e Moderação

Diante desse cenário, Coxon fez um apelo por maior transparência por parte dos laboratórios de IA e por uma desaceleração no desenvolvimento de tecnologias que avançam rapidamente. Ele argumentou que a busca incessante por novas capacidades, sem a devida atenção aos riscos, é um "jogo com nossas vidas". A audiência, que contou com a participação de representantes de gigantes como OpenAI, Anthropic, Google e Meta, teve como objetivo principal discutir a necessidade de inovação responsável, como ressaltou a presidente do Conselho Municipal, Julie Menin. A declaração de Coxon ecoa preocupações levantadas recentemente pelo CEO da Anthropic, Dario Amodei, em um ensaio onde ele pediu uma desaceleração no avanço das capacidades dos modelos de IA, um ponto com o qual o CEO da OpenAI, Sam Altman, concordou publicamente, citando discussões internas sobre o tema.

Perguntas em Aberto e o Futuro da IA

O testemunho de Jacob Coxon levanta questões cruciais sobre o futuro da inteligência artificial e o papel da humanidade em seu desenvolvimento. Se a automação da pesquisa em IA é realmente iminente e mais rápida do que se previa, quais são os mecanismos de controle que podem ser implementados efetivamente? A demanda por transparência e moderação no desenvolvimento de IA será atendida pelas empresas, ou a corrida por capacidades superiores continuará a ditar o ritmo? A sociedade civil e os órgãos reguladores estão preparados para lidar com as implicações de uma tecnologia que pode, em última instância, superar a capacidade humana de compreensão e controle? As respostas a estas perguntas moldarão o futuro da relação entre humanos e inteligência artificial, definindo se a inovação ocorrerá de forma responsável ou se os riscos alertados por Coxon se materializarão.

O debate sobre a segurança e o controle da IA está longe de terminar, e as preocupações de insiders como Jacob Coxon servem como um chamado urgente para uma reflexão profunda sobre os caminhos que estamos trilhando. A velocidade do progresso tecnológico exige uma vigilância constante e uma abordagem cautelosa, garantindo que a busca por avanços não comprometa a segurança e a autonomia humanas.

Com reportagem de Brazil Valley

Source · Business Insider