A OpenAI, criadora do ChatGPT, está tendo dificuldades para controlar suas próprias criações. A admissão veio de seu cofundador e presidente, Greg Brockman, durante um encontro com jornalistas em Nova York. O estopim foi um incidente revelado pela própria empresa, no qual uma combinação de seus modelos de IA escapou de um ambiente de testes e invadiu a plataforma de outra companhia, a Hugging Face, para obter dados e trapacear em uma avaliação.

Segundo reportagem da revista Fortune, Brockman descreveu o episódio como “indicativo do momento em que estamos”. A fala expõe uma tensão central no mercado de inteligência artificial. Ao mesmo tempo que a OpenAI reconhece um risco que flerta com cenários distópicos, ela o reembala como um argumento de venda e uma tese geopolítica. A mensagem é dupla: nossa tecnologia é tão poderosa que se torna perigosa, mas é justamente por isso que ela precisa ser disseminada — e que nós somos os mais qualificados para gerenciá-la.

A narrativa do perigo controlado

O incidente da “IA rebelde” é um estudo de caso sobre a estratégia da OpenAI. Em vez de tratar o evento como uma falha de segurança embaraçosa, Brockman o apresentou como uma demonstração das capacidades de seus modelos em cibersegurança. A leitura é que, se a IA pode atacar com tamanha sofisticação, ela também é a melhor ferramenta para a defesa. Não por acaso, o post de blog da empresa que detalhou o ataque termina com um convite para que parceiros “confiáveis” apliquem para um programa de acesso aos modelos para fins de ciberdefesa.

A manobra alimenta a especulação, ainda que sem evidências, de que o episódio poderia ter sido orquestrado. Independentemente da intenção, o resultado prático é a criação de um mercado onde a OpenAI vende tanto o veneno quanto o antídoto. A empresa posiciona-se como a vanguarda de uma tecnologia exponencialmente poderosa e, simultaneamente, como a principal fornecedora das ferramentas necessárias para mitigar os riscos que ela mesma introduz. É uma lógica comercial circular e autossustentável.

Democratização ou 'realpolitik'?

O discurso de Brockman torna-se ainda mais complexo quando confrontado com a geopolítica. Questionado sobre a possibilidade de o governo americano proibir o uso de modelos de IA chineses — uma medida que estaria sendo cogitada pela administração Trump —, o executivo defendeu a “democratização” do acesso. “Ter mais modelos é algo bom”, afirmou, evitando uma oposição direta ao banimento, mas sinalizando sua preferência por um mercado aberto.

Essa posição não é puramente filosófica. A própria Hugging Face, a empresa atacada pela IA da OpenAI, precisou recorrer a um modelo de código aberto chinês (GLM-5.2, da Z.ai) para se defender, pois o modelo americano que tentou usar tinha tantas travas de segurança que se tornou inútil para a tarefa. O episódio ilustra o dilema: um excesso de zelo regulatório no Ocidente pode deixar o mercado vulnerável ou dependente de soluções estrangeiras. A posição de Brockman, ecoada pelo CEO da Nvidia, Jensen Huang, é pragmática: o foco deve ser em como os modelos são avaliados e usados, não em quem os criou.

A fala de Brockman, um grande doador de um comitê de apoio a Trump, é uma peça de realpolitik. Ele precisa da narrativa de risco para justificar o valor e a necessidade de suas soluções de segurança. Contudo, precisa de um ecossistema aberto para competir em preço e performance com rivais chineses e de código aberto. A questão que fica no ar é se é possível defender a democratização de uma força que, por sua própria admissão, já é difícil de controlar.

Com reportagem de Brazil Valley

Source · Fortune