A Anthropic, um dos principais laboratórios de inteligência artificial, propôs um rascunho de projeto de lei no Congresso dos Estados Unidos que visa estabelecer um marco regulatório para os modelos de IA mais avançados. A iniciativa, que tem gerado debate no setor, estabelece um limiar significativo para a intervenção governamental, exigindo que um modelo represente um risco previsível e iminente de causar mais de US$ 1 bilhão em danos ou a morte ou lesões graves a mais de 50 pessoas para que o governo possa intervir.

O Limiar da Intervenção Governamental

O cerne da proposta da Anthropic reside em definir um gatilho de risco elevado para a ação governamental. Segundo o rascunho obtido pelo Politico, um modelo só poderia ser bloqueado ou seu uso impedido se o risco associado for quantificável em mais de US$ 1 bilhão em perdas econômicas ou em mais de 50 fatalidades. Além disso, o perigo deve estar vinculado a cenários como o desenvolvimento de armas biológicas, a capacidade de um modelo evadir os controles de seus desenvolvedores ou a execução de ciberataques em larga escala. Essa abordagem busca focar a regulação em ameaças existenciais ou de impacto massivo, evitando a paralisação do desenvolvimento por riscos menores.

Concentração de Poder e Mecanismos de Avaliação

A proposta da Anthropic também chama a atenção pela forma como concentra o poder de veto. O texto estipula que o Departamento de Comércio seria o único órgão executivo com autoridade para solicitar a um juiz federal a suspensão de um modelo. Instituições independentes, credenciadas pelo Departamento de Comércio, seriam responsáveis por avaliar periodicamente os modelos de ponta. Os laboratórios de IA poderiam remunerar esses avaliadores, desde que o pagamento não esteja condicionado ao resultado da avaliação. Caso um avaliador identifique um "risco iminente enumerado", ele teria 72 horas para comunicar o Departamento de Comércio, que, por sua vez, precisaria apresentar evidências a um juiz federal para obter uma ordem de paralisação. A proposta proíbe explicitamente outras agências de intervir no desenvolvimento, implantação ou uso interno de modelos de IA.

Implicações e Críticas ao Modelo Proposto

A iniciativa da Anthropic surge em um momento de crescente preocupação com a segurança da IA, após incidentes como o hack a Hugging Face e invasões a sites governamentais. No entanto, a proposta tem sido recebida com ceticismo por alguns setores. O alto limiar de danos e fatalidades pode significar que incidentes graves, mas que não atinjam esses patamares, fiquem sem a devida resposta regulatória. A concentração de poder no Departamento de Comércio também levanta questões sobre a capacidade e especialização do órgão para lidar com a complexidade técnica e os riscos inerentes à IA avançada. A exigência de que apenas um juiz federal possa ordenar a paralisação, após solicitação do Comércio, adiciona uma camada de complexidade e potencial lentidão ao processo.

Perguntas em Aberto e o Futuro da Regulação

Ainda que a Anthropic afirme que a proposta reflete "políticas sensatas", o projeto de lei ainda é um rascunho e não foi formalmente endossado pelo Congresso. Resta saber se os legisladores americanos considerarão o limiar de US$ 1 bilhão e 50 vítimas como uma medida de segurança adequada ou se buscarão um equilíbrio mais sensível entre a inovação e a proteção contra os riscos da IA. A forma como a regulação da IA será moldada nos próximos anos definirá o futuro do desenvolvimento tecnológico e sua integração segura na sociedade. A proposta da Anthropic é um passo nessa direção, mas o debate está longe de terminar.

Com reportagem de Brazil Valley

Source · Xataka