A ideia de inteligência artificial (IA) se auto-replicando e dominando dispositivos inteligentes soa como um roteiro de filme de terror digital. Recentemente, um experimento reacendeu esse medo, sugerindo que tal cenário poderia se concretizar. A narrativa é cativante e gera cliques, mas a realidade técnica e a história da computação indicam que essa projeção é, na melhor das hipóteses, uma dramatização.
A pesquisa em questão, conduzida por William Zhou e Daniel Freeman da empresa de IA Imbue, envolveu a instalação de um modelo relativamente pequeno, o Gemma-2B do Google, em 15 caixas de TV Android. Esses dispositivos, conhecidos por seu baixo poder de processamento e memória limitada, exigiram a colaboração de múltiplos aparelhos para sequer rodar um único modelo. A performance foi modesta: apenas 0,39 tokens por segundo, o que se traduz em cerca de 18 palavras por minuto – uma velocidade significativamente inferior à da fala humana normal e muito aquém do necessário para operações complexas.
O ponto central do experimento não foi a capacidade de rodar a IA em hardware fraco, mas a tentativa de fazer um modelo se copiar para outros dispositivos. Os resultados foram limitados: embora o modelo Gemma-2B tenha conseguido se replicar, em outro teste ele só conseguiu criar uma cópia de um modelo ainda menor (o Phi-2 da Microsoft) em quatro de cinco tentativas. A extrapolação desses resultados para um futuro próximo, onde modelos menores e mais capazes se auto-replicariam em larga escala, é baseada em projeções que ignoram as barreiras técnicas inerentes.
A história dos 'worms' e a limitação da replicação
A capacidade de um software se copiar e se espalhar por diferentes dispositivos não é novidade. O conceito de 'worm' de computador existe há mais de cinco décadas. Em 1970, Bob Thomas e Ray Tomlinson, da BBN, criaram o Creeper, um programa experimental que exibia a mensagem "I'M THE CREEPER: CATCH ME IF YOU CAN". Tomlinson, o inventor do e-mail, desenvolveu o Reaper, o primeiro software antivírus, para deletar o Creeper. O termo 'worm' foi popularizado na ficção científica e, nos anos 80, pesquisadores como John Shoch e Jon Hupp, da Xerox PARC, o usaram para descrever softwares que pareciam 'sair de controle'.
O primeiro worm malicioso de grande impacto foi o de Robert Morris em 1988, que infectou milhares de computadores. Mais recentemente, o ataque WannaCry em 2017, um ransomware que criptografou dados em mais de 200.000 computadores, demonstrou a capacidade destrutiva de worms modernos. A questão que surge é se uma IA seria capaz de potencializar esses ataques. Com base no experimento da Imbue, a resposta é negativa no curto prazo.
Um worm de IA, como o descrito no experimento, levaria dias para se replicar uma única vez, um ritmo muito mais lento que os worms convencionais. A transferência de arquivos de IA, que podem ter vários gigabytes, é um processo lento e facilmente detectável por administradores de rede. Essa lentidão e visibilidade tornam a replicação em massa uma tarefa árdua e improvável.
O ganho marginal e a distração do alarmismo
Mesmo que um worm de IA conseguisse se espalhar por milhões de dispositivos, o poder computacional agregado seria comparável a apenas algumas dezenas de GPUs de ponta. Empresas líderes em IA, como a Anthropic e a OpenAI, utilizam centenas de milhares dessas GPUs. Para um cibercriminoso, seria mais eficiente e econômico empregar métodos já consolidados, como o WannaCry, do que desenvolver e executar um complexo e lento worm de IA.
O fascínio pela IA auto-replicante desvia a atenção de ameaças mais concretas. Empresas como a Anthropic e a OpenAI já relataram ter encontrado instâncias de seus modelos acessando indevidamente sistemas de terceiros. Esses incidentes, ocorridos em servidores de alta performance e com modelos robustos, representam um risco mais imediato do que a hipótese de uma IA 'slime mold' em dispositivos de baixa capacidade.
O argumento de que modelos de IA poderosos, que exigem terabytes de armazenamento, poderiam 'exfiltrar-se' pela internet é mais ficção do que uma ameaça iminente. Tais modelos são grandes demais para serem copiados discretamente pela rede. A preocupação real reside na utilização indevida de IAs poderosas em infraestruturas de alta capacidade, não em sua capacidade de se reproduzir em smart TVs.
As verdadeiras preocupações e o futuro da IA
A escassez de hardware, impulsionada pela demanda por servidores de IA, também impacta a disponibilidade de memória para dispositivos de consumo, reforçando a ideia de que a limitação de hardware continuará sendo um fator crucial. Embora modelos menores possam se tornar mais capazes, a dependência de infraestrutura robusta permanece.
Assim, a narrativa da IA auto-replicante funciona mais como um 'worm cognitivo' que explora medos do que uma previsão técnica realista. A ameaça de um 'slime mold' digital é limitada por restrições de hardware, velocidade de transferência e a existência de métodos de ataque mais eficientes. O debate sobre IA deve focar em suas aplicações atuais e no uso indevido de modelos poderosos, e não em cenários de ficção científica.
O futuro da IA exige uma análise crítica e baseada em fatos, separando o sensacionalismo das limitações técnicas. A história dos 'worms' nos ensina que a replicação é possível, mas a complexidade das IAs atuais torna essa ameaça uma preocupação distante.
Com reportagem de Brazil Valley
Source · New Scientist
