Parlamentares britânicos buscam dotar um órgão regulador com poderes significativos para intervir no desenvolvimento de inteligência artificial, incluindo a capacidade de "desligar" modelos considerados perigosos. A proposta surge de um comitê parlamentar que acredita que gigantes da tecnologia como OpenAI e Anthropic não podem ser os únicos responsáveis por determinar os limites de segurança de suas próprias criações.

A sugestão, detalhada em um relatório intitulado "Guardrails for Growth: Making AI Safe", visa estabelecer uma Lei de Segurança e Proteção de IA (AI Safety and Security Bill). Este projeto de lei concederia a um novo órgão regulador a autoridade para supervisionar e, se necessário, interromper o treinamento e os testes de modelos de alto risco antes mesmo de serem lançados ao público. A proposta também contempla a possibilidade de bloquear implantações ou suspender serviços de IA caso os riscos identificados não possam ser contidos.

O comitê, que ouviu especialistas, ex-funcionários de empresas de IA e representantes de gigantes como OpenAI, Google DeepMind, Anthropic e Meta, destacou a dificuldade em prever o comportamento de modelos de linguagem grandes (LLMs) devido à sua complexa arquitetura e aos bilhões de parâmetros em que são treinados. Embora as empresas tenham assegurado aos parlamentares que não lançariam modelos que considerassem inseguros, o comitê observou que não há um padrão unificado de segurança entre elas e que a legislação atual do Reino Unido não exige opiniões independentes antes da liberação de tais tecnologias.

Liam Byrne, presidente do comitê, expressou preocupação com a falta de supervisão independente e de mecanismos de relato de incidentes, alertando que, uma vez liberados, alguns modelos se tornam impossíveis de serem recolhidos ou controlados. Ele defende que a proteção deve começar durante as fases de construção e teste dos sistemas de IA. O relatório aponta dez falhas na abordagem britânica à segurança de IA, incluindo a ausência de relato obrigatório de incidentes, acesso limitado para testadores independentes e proteções insuficientes para denunciantes (whistleblowers).

Embora o Reino Unido já possua o Instituto de Segurança de IA (AISI), cujo trabalho de teste de modelos de ponta depende da cooperação voluntária e não possui autoridade para impedir o lançamento de modelos arriscados, os parlamentares desejam que o AISI continue suas atividades de teste sob a supervisão de um regulador com poder de execução. Desenvolvedores de sistemas de alto risco seriam obrigados a apresentar evidências de segurança e permitir o acesso de pesquisadores independentes. Mudanças significativas nas capacidades ou salvaguardas de um modelo também exigiriam nova análise.

O comitê também abordou as barre as que denunciantes enfrentam, como contratos restritivos e pressões comerciais, que podem desencorajar a comunicação de preocupações de segurança. Por isso, propõe proteções legais mais fortes para denunciantes e a obrigatoriedade de relatar incidentes e quase acidentes envolvendo IA. A proposta visa não apenas a segurança, mas também a oportunidade econômica, com o comitê calculando que a IA pode adicionar até £400 bilhões à economia britânica na próxima década e que o Reino Unido pode lucrar com testes independentes.

Os parlamentares desejam que as novas leis sejam promulgadas na próxima sessão parlamentar e que o Reino Unido use sua presidência do G20 em 2027 para promover regras mais rigorosas globalmente. No entanto, a decisão final sobre conceder a um órgão regulador o poder de interromper o desenvolvimento de IA ainda depende da vontade política do governo, cujas recomendações não são vinculativas.

Com reportagem de Brazil Valley

Source · The Register