O governo do Reino Unido está preparando regras que exigirão que operadores de serviços essenciais e provedores digitais se protejam contra a perda de controle de agentes de Inteligência Artificial (IA) e reportem incidentes quando salvaguardas falharem. Uma emenda ao Cyber Security and Resilience Bill, atualmente em tramitação no Parlamento, daria aos ministros poderes para regular a implantação e o reporte de incidentes envolvendo IA agentiva em determinadas organizações.

A nova cláusula foi introduzida durante a terceira leitura do projeto de lei na Câmara dos Lordes nesta semana. Em uma nota explicativa, os ministros delinearam planos para salvaguardas, notificação às organizações afetadas, preservação de evidências e revisões de incidentes lideradas pelo governo. As medidas exigiriam consulta e aprovação parlamentar por meio de legislação secundária.

O cenário de risco da IA agentiva

A iniciativa surge em resposta a preocupações crescentes sobre a autonomia e o controle de sistemas de IA, após relatos de agentes que extrapolam seu escopo pretendido e interagem com sistemas externos de formas imprevistas. Parlamentares britânicos questionam se a legislação atual do país consegue lidar adequadamente com ameaças decorrentes de implantações mal projetadas de agentes de IA.

Novos poderes de investigação e fiscalização

Segundo especialistas ouvidos pela imprensa britânica, a cláusula é “bastante nova” em sua estrutura. Em vez de impor diretamente novos deveres substantivos, ela permitiria aos ministros introduzir, por regulamentos, regras operacionais e poderes investigativos que abrangeriam as organizações reguladas. Isso pode incluir nomear inspetores, entrar e revistar instalações, bem como apreender e reter documentos quando houver suspeita de comprometimento envolvendo um agente de IA. Pelas propostas, certos poderes poderiam ser conferidos a reguladores setoriais, exigindo ações específicas das organizações visadas. Entre as entidades potencialmente afetadas estão fornecedores de gás e eletricidade, provedores de serviços gerenciados e provedoras de nuvem que implantam agentes de IA para clientes.

Implicações para quem desenvolve e implanta

A emenda reconhece a perda de supervisão ou controle como um risco de segurança que pode demandar investigação formal, mas, por si só, não cria obrigações detalhadas: essas viriam em regulamentações futuras. Em linhas gerais, a responsabilidade recai sobre quem implanta o agente — quem define permissões, conecta a sistemas e concede acesso a dados — para explicar o que ocorreu em caso de incidente. A inclusão de desenvolvedores de modelos básicos (foundation models) dependerá de como as futuras regras forem redigidas e de como cada ator se enquadrará em categorias reguladas ou cadeias de suprimentos críticas.

Próximos passos para a IA no Reino Unido

A proposta reflete uma preocupação global crescente com a governança da IA, à medida que a tecnologia se torna mais autônoma e integrada a infraestruturas críticas. Ao focar em poderes de investigação e em regulamentação via instrumentos secundários, o Reino Unido parece buscar flexibilidade para se adaptar rapidamente, estabelecendo, ao mesmo tempo, um arcabouço de responsabilização em caso de falhas. A necessidade de consulta pública e aprovação parlamentar sugere um processo deliberativo, enquanto a introdução da cláusula em fase avançada do projeto sinaliza a urgência percebida pelos legisladores em abordar riscos emergentes.

A forma exata de implementação — e os tipos de incidentes que acionarão investigações governamentais — será determinante para o impacto real na indústria de IA e nos serviços digitais.

Com reportagem de Brazil Valley

Source · The Register