A gestão de crises, especialmente aquelas que envolvem riscos emergentes e incertezas, exige mais do que reações tardias. A experiência em cenários de segurança nacional, como pandemias e ameaças biológicas, ensina que os momentos decisivos muitas vezes chegam antes que uma ameaça seja plenamente reconhecida. Essa lição é particularmente relevante no contexto da inteligência artificial (IA) e seu potencial impacto na biossegurança, um tema que demanda salvaguardas mais robustas do que as medidas voluntárias atualmente propostas.

Em 2023, a equipe do autor, que atuava como principal oficial de biossegurança na Casa Branca, foi alertada sobre casos de H5N1 influenza em uma remota vila cambojana. A questão crucial não era se algo estava acontecendo, mas sim se aquilo representava o início de uma pandemia. A decisão de não alertar imediatamente o presidente Biden baseou-se em um gatilho previamente acordado: a confirmação de transmissão sustentada entre humanos. Essa definição prévia permitiu uma análise baseada em dados de vigilância, evitando tanto a complacência diante de um risco real quanto a escalada desnecessária de uma ameaça inexistente. Essa disciplina de gatilho-ação é o que falta na discussão sobre os riscos da IA.

O Acordo Voluntário e Suas Limitações

Recentemente, líderes de grandes empresas de IA e a Casa Branca assinaram o Acordo da Casa Branca sobre Superinteligência. O pacto incentiva controles internos, avaliações independentes e supervisão por conselhos. No entanto, a responsabilidade de definir a natureza e a gravidade dos riscos, bem como o momento de agir, recai predominantemente sobre as próprias empresas. Essa abordagem voluntária, embora um reconhecimento da importância da biossegurança na conversação sobre segurança da IA, pode não ser suficiente para lidar com a velocidade e a complexidade das ameaças emergentes.

Figuras proeminentes como Bill Gates alertaram que a IA já ultrapassou certos limiares, incluindo a capacidade de facilitar ataques biológicos. A preocupação central reside na possibilidade de uma IA projetar uma arma bioterrorista capaz de dizimar milhões. A CEO da Anthropic, por exemplo, instou o Conselho de Segurança da ONU a proibir o uso de IA na criação de armas biológicas, após a empresa relatar cinco casos de uso indevido de seus modelos, incluindo pesquisas sobre a adaptação do H5N1 a mamíferos. Embora a empresa tenha banido as contas envolvidas, a facilidade com que tais pesquisas podem ser iniciadas levanta sérias questões.

O Limiar Entre o Digital e o Físico

O ponto crucial na análise de riscos da IA aplicada à biossegurança não é apenas se um modelo pode responder a uma pergunta perigosa, mas sim o que acontece a seguir. O limiar que realmente importa é a transição da capacidade digital para a ação no mundo físico. Uma IA que pode descrever o protocolo para criar um patógeno é uma coisa; a capacidade de sintetizar o DNA, obter o equipamento necessário e cultivar o vírus em um laboratório é outra. Atualmente, a IA ainda não dissolveu completamente essas barreiras físicas. Contudo, essa constatação não deve levar à complacência, mas sim a um foco intensificado nas áreas onde o risco pode ser mitigado enquanto ainda é possível.

A experiência em biossegurança sugere que a resposta eficaz a riscos emergentes reside em definir, antecipadamente, um gatilho observável específico e a ação correspondente. Essa disciplina de "gatilho-ação" ainda não foi aplicada de forma consistente aos riscos biológicos associados à IA. Sem esses parâmetros, cada aviso ambíguo pode gerar pânico ou ser simplesmente ignorado, como se já tivéssemos superado o perigo. A pergunta "quão preocupado devo estar?" é difícil de responder; gatilhos pré-definidos, por outro lado, oferecem um caminho claro para a ação.

Monitoramento e Ação: O Caminho a Seguir

Para monitorar ativamente os riscos da IA na biossegurança, é essencial observar sinais concretos. Isso inclui evidências de que indivíduos sem expertise biológica avançada estão utilizando IA para superar desafios experimentais que antes exigiam conhecimento especializado. Tal monitoramento requer "red teaming" de modelos de IA por avaliadores independentes, em vez de depender apenas de divulgações voluntárias das empresas. A colaboração com fornecedores de síntese de DNA e laboratórios automatizados é crucial para rastrear sequências genéticas de preocupação ou experimentos que possam ser solicitados ou executados.

Além disso, é fundamental acompanhar se a IA está reduzindo significativamente a experiência prática necessária para trabalhos biológicos perigosos. A expansão da triagem em pontos de contato onde a capacidade digital se torna física – como em fornecedores de síntese de DNA e laboratórios automatizados – é um passo necessário. Um projeto de lei bipartidário no Senado dos EUA, que visa fortalecer essas salvaguardas, tem permanecido estagnado desde janeiro, destacando a lentidão na resposta regulatória. Cada um desses gatilhos potenciais sinalizaria que a barreira entre o conhecimento gerado por IA e sua aplicação prática está começando a erodir, e cada um deles deve ter uma ação correspondente predefinida.

Perguntas em Aberto e o Futuro da Biossegurança com IA

A questão central que permanece é como garantir que os avanços em IA, que inegavelmente podem acelerar a pesquisa biomédica, não abram portas para o bioterrorismo. O acordo da Casa Branca é um passo importante, mas a verdadeira segurança virá da definição clara de quais evidências indicam que a IA auxiliou uma capacidade perigosa a cruzar para o mundo físico e quais ações serão tomadas quando isso ocorrer. A afirmação "ainda não" é informativa, mas não constitui um plano de ação.

O futuro da biossegurança na era da IA dependerá da nossa capacidade de antecipar e responder a riscos emergentes com clareza e determinação. A transição de medidas voluntárias para um regime de gatilhos e ações pré-definidos é um caminho necessário para garantir que a inovação tecnológica sirva ao bem-estar humano, em vez de representar uma ameaça existencial. A comunidade global de segurança e saúde precisa colaborar para estabelecer esses parâmetros antes que uma crise real nos force a reagir.

Com reportagem de Brazil Valley

Source · Fortune