A inteligência artificial (IA) tem deslumbrado o mundo com suas capacidades, mas também tem levantado preocupações sobre seu potencial para ameaças existenciais. Pesquisadores da área têm explorado cenários apocalípticos que poderiam, teoricamente, levar ao fim da humanidade. Essas discussões ganharam força com o endosso de alguns executivos da indústria para a desaceleração do desenvolvimento da tecnologia em nome da segurança.
Um dos cenários mais discutidos envolve a possibilidade de sistemas de IA desencadearem uma guerra nuclear. Embora salvaguardas rigorosas existam atualmente nos sistemas de controle de armas, a integração da IA na "cadeia de decisão" ou o acesso não autorizado a esses sistemas poderiam mudar esse quadro. O perigo, segundo muitos, não reside na IA decidindo autonomamente acabar com a humanidade, mas sim no uso dessa tecnologia por humanos, nações ou grupos para aniquilar seus adversários.
Outra linha de preocupação foca no desenvolvimento de bioarmas. Assim como a IA pode acelerar a descoberta de curas para doenças, ela também pode ser usada para criar ou aprimorar patógenos. A Anthropic, por exemplo, relatou ter bloqueado tentativas de atores mal-intencionados de usar sua IA para pesquisas que poderiam levar à criação de armas biológicas. Embora tais pesquisas possam ser usadas para desenvolver vacinas, elas também poderiam ser empregadas para tornar patógenos mais perigosos, com potencial para infectar grandes populações.
O conceito de "runaway AI", ou IA descontrolada, surge da preocupação com o desalinhamento entre os objetivos da IA e os valores humanos. Sem intenção maliciosa, uma IA superinteligente poderia, ao perseguir um objetivo aparentemente benigno — como o famoso experimento do "maximizador de clipes de papel" de Nick Bostrom —, reconfigurar o planeta de formas irreversíveis e prejudiciais à existência humana. A rápida evolução da IA também levanta o temor de que um enxame de agentes de IA possa, em poucos meses, "dominar" a internet, conforme alertou Dario Amodei, CEO da Anthropic.
No entanto, nem todos compartilham do mesmo nível de preocupação. Juan Andrés Guerrero-Saade, pesquisador da SentinelOne e membro do Frontier Risk Council da OpenAI, considera esses argumentos "ficção científica" e tentadores para "um certo estilo infantil de pensar", que pode ser usado por laboratórios de ponta para atrair talentos. Ele sugere que o foco em cenários apocalípticos pode mais servir para validar a importância do trabalho dessas empresas do que refletir uma ameaça iminente e concreta.
Apesar do ceticismo, a discussão sobre os riscos da IA é cada vez mais premente. Jacob Coxon, pesquisador da Anthropic que se demitiu por preocupações com o desenvolvimento irresponsável da tecnologia, reconheceu a dificuldade em comunicar cenários específicos de fim da humanidade, mas ressaltou a necessidade de abordar essas questões de forma mais eficaz. O debate entre a urgência dos riscos e a plausibilidade dos cenários apocalípticos continua em aberto, enquanto a tecnologia avança em ritmo acelerado.
Com reportagem de Brazil Valley
Source · Fast Company
