A pergunta “a inteligência artificial pode nos matar?” deixou de ser um tropo de ficção científica para se tornar tema de painéis sóbrios no MIT. Em um evento recente, a questão foi o ponto de partida para uma discussão sobre os riscos existenciais da tecnologia, com um exemplo se destacando pela sua concretude: o potencial da IA para projetar armas biológicas e químicas com uma facilidade alarmante.

O debate, conforme reportado pela MIT Technology Review, evidencia a principal tensão da era da IA generativa. A mesma ferramenta que promete acelerar a descoberta de novos medicamentos carrega, em seu código, o potencial para o seu exato oposto. A discussão não é mais sobre se a tecnologia é boa ou má, mas sobre como gerenciar uma ferramenta intrinsecamente ambivalente, cujo poder de criação é indissociável de seu potencial de destruição.

A dupla face da inovação

O cerne da preocupação reside em uma demonstração prática de 2022. Pesquisadores utilizaram um modelo de IA, originalmente projetado para desenvolver novas drogas, e inverteram seu propósito. Em vez de recompensar o modelo por identificar moléculas benéficas e não-tóxicas, eles o instruíram a buscar toxicidade. O resultado foi assustador: em menos de seis horas, o sistema gerou 40.000 moléculas que poderiam servir como agentes de guerra química, incluindo compostos já conhecidos e novas substâncias letais.

Este experimento não ocorreu no vácuo. Ele se soma à crescente acessibilidade de ferramentas de biotecnologia, como a edição genética e a biologia sintética. A combinação de uma IA capaz de desenhar patógenos sob demanda com a capacidade cada vez mais distribuída de sintetizá-los em laboratório é o que transforma um risco teórico em uma ameaça plausível. A barreira para criar armas de destruição em massa, antes restrita a programas estatais com vastos recursos, pode ser drasticamente reduzida.

O ceticismo e a urgência

Ainda assim, a comunidade científica não é unânime quanto à gravidade do risco. Conforme aponta a publicação, há um debate sobre se o alarme é justificado ou uma distração de problemas mais imediatos da IA, como viés e desemprego. Alguns críticos chegam a sugerir que o discurso do “risco existencial” é uma manobra de relações públicas das próprias gigantes de tecnologia para atrair uma regulação que crie barreiras de entrada e solidifique seu domínio de mercado.

Independentemente da intenção, a questão da governança se impõe. As salvaguardas atuais, segundo especialistas, não são infalíveis. O desafio é criar mecanismos de controle eficazes para uma tecnologia que é, por natureza, digital, replicável e de uso dual. Diferente de material nuclear, um modelo de IA pode ser copiado e distribuído globalmente em segundos, tornando o controle de acesso e a fiscalização de seu uso uma tarefa de complexidade inédita.

O espectro da bioarma desenhada por IA funciona, portanto, como um chamado à realidade. Ele força o ecossistema de tecnologia, reguladores e a sociedade a confrontar a natureza ambivalente da ferramenta mais poderosa já criada. A conversa mudou de patamar: o foco não é mais especular sobre o que uma superinteligência futurista poderia fazer, mas sim como controlar as capacidades perigosas dos sistemas que já temos hoje.

Com reportagem de Brazil Valley

Source · MIT Technology Review