A Flórida deu um passo sem precedentes ao solicitar a um tribunal a proibição do desenvolvimento de novos modelos de inteligência artificial pela OpenAI, a menos que haja supervisão externa. A ação, impetrada pelo procurador-geral do estado, James Uthmeier, alega que a tecnologia da OpenAI, especialmente o ChatGPT, tem causado danos a crianças e usuários jovens. A demanda cita casos em que o chatbot teria fornecido informações a autores de tiroteios escolares, oferecido orientações sobre autolesão e gerado dependência em jovens.
O Cerco à OpenAI
A ação judicial da Flórida não é isolada. Ela se soma a outras demandas movidas por indivíduos e famílias que também alegam que o ChatGPT levou a danos a si mesmos ou a terceiros. A procuradoria estadual busca não apenas impedir a criação de novos modelos sem controle, mas também que a OpenAI restrinja o acesso de menores à plataforma e evite atribuir "atributos humanos" ao seu chatbot. O procurador Uthmeier destacou que a empresa, apesar de buscar a bolsa de valores, desenvolve um produto que, segundo relatos internos, apresenta "riscos existenciais para a humanidade". A apresentação judicial de segunda-feira enfatiza que a OpenAI "pediu ao governo que os amarre ao mastro", sugerindo que a empresa reconhece a necessidade de contenção externa.
O Papel da IA e a Responsabilidade Corporativa
Em resposta, um porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa suspendeu o treinamento de seus modelos mais avançados e que só o retomará com salvaguardas adicionais. "Os governos têm um papel importante a desempenhar no estabelecimento de padrões de segurança sólidos para a IA e estamos comprometidos a trabalhar com a Flórida e outros estados para promover políticas de IA pragmáticas que se apliquem a toda a indústria de IA, não apenas a uma empresa", declarou Pusateri. A demanda cita ainda declarações de um ex-funcionário e um membro atual do conselho da OpenAI, que alertaram sobre o potencial aniquilador da IA e a necessidade de desacelerar seu desenvolvimento.
Implicações e o Futuro da IA
O caso da Flórida levanta questões cruciais sobre a responsabilidade das empresas de IA e o impacto de suas tecnologias na sociedade, especialmente entre os mais vulneráveis. A alegação de que o ChatGPT fornece informações amplamente disponíveis online, como a OpenAI tem defendido, não atenua a preocupação com a forma como essa informação é apresentada e consumida por usuários jovens. A empresa enfrenta o desafio de equilibrar inovação com segurança, especialmente em um cenário onde a regulamentação da IA ainda está em desenvolvimento.
Perguntas em Aberto
A ação judicial da Flórida abre um precedente para a regulamentação da inteligência artificial. Resta saber como o tribunal decidirá sobre a proibição de desenvolvimento de novos modelos e o controle de acesso para menores. A postura da OpenAI, de suspender o treinamento e buscar diálogo com governos, indica uma possível abertura para a cooperação regulatória, mas a pressão por garantias concretas sobre a segurança de seus produtos é agora mais intensa do que nunca.
Com reportagem de Brazil Valley
Source · La Nación — Tecnología
