A Anthropic, uma das principais startups no desenvolvimento de inteligência artificial, decidiu não compartilhar seu mais recente modelo de IA com o AI Safety Institute (AISI) do Reino Unido, a agência governamental criada para avaliar os riscos de novas tecnologias. A informação, reportada pelo Financial Times, representa um revés para os esforços do governo britânico em se posicionar como um hub global para a governança e segurança de IA.

A decisão da Anthropic, uma empresa fundada por ex-executivos da OpenAI e que conta com investimentos de players como Google e Amazon, levanta questões sobre a viabilidade de acordos voluntários de segurança em um setor altamente competitivo. Segundo a reportagem, a medida gerou preocupação dentro do governo britânico sobre uma possível tendência protecionista entre as empresas de tecnologia, que poderiam priorizar seus reguladores domésticos em detrimento de iniciativas internacionais. A recusa testa a premissa de cooperação que sustentou a criação do AISI.

Um teste para a diplomacia da IA

O AI Safety Institute foi um dos principais resultados da cúpula de segurança de IA realizada em Bletchley Park em 2023, um esforço diplomático do Reino Unido para liderar a conversa global sobre os riscos da tecnologia. A ideia era criar uma entidade técnica e neutra onde empresas de ponta, como Anthropic, OpenAI e Google DeepMind, pudessem submeter voluntariamente seus modelos mais avançados para avaliação de segurança antes do lançamento ao público. A participação era vista como um sinal de boa-fé e compromisso com o desenvolvimento responsável.

A recusa da Anthropic em participar com seu último modelo abala essa estrutura. A decisão pode sinalizar uma recalibragem estratégica por parte das empresas de IA, que operam sob intensa pressão comercial. Com os Estados Unidos também possuindo seu próprio instituto de segurança, a escolha pode refletir uma preferência por manter as avaliações mais sensíveis dentro de seu principal mercado e jurisdição, minando a ambição do Reino Unido de atuar como um avaliador global e independente.

Entre segurança e segredo comercial

A medida da Anthropic expõe a tensão fundamental no coração da indústria de IA: o equilíbrio entre a transparência exigida para a segurança e a necessidade de proteger segredos comerciais que valem bilhões de dólares em pesquisa e desenvolvimento. Embora a empresa não tenha comentado publicamente os motivos da decisão, o contexto competitivo é inegável. Em uma corrida acirrada pela supremacia em modelos de linguagem, qualquer compartilhamento de tecnologia avançada, mesmo com uma agência governamental sob acordos de confidencialidade, pode ser percebido como um risco competitivo.

O episódio serve como um estudo de caso sobre os limites da autorregulação e dos pactos voluntários. Enquanto governos e sociedade civil pedem mais escrutínio sobre os chamados "modelos de fronteira", as empresas enfrentam o dilema de como colaborar sem ceder vantagem estratégica. A preocupação do governo britânico com um "protecionismo tecnológico", citada pelo FT, sugere que a cooperação pode se tornar mais seletiva, com as empresas escolhendo parceiros regulatórios com base em alinhamentos geopolíticos e comerciais, e não apenas em competência técnica.

A decisão da Anthropic não fecha, mas certamente complica o debate sobre a governança global da IA. O incidente força uma reflexão sobre se estruturas voluntárias são suficientes para garantir a segurança ou se mandatos regulatórios mais fortes serão necessários para auditar as tecnologias que prometem remodelar a economia e a sociedade. A resposta a essa questão definirá o equilíbrio de poder entre inovadores e reguladores na era da IA.

Com reportagem de Brazil Valley

Source · Financial Times Technology