A OpenAI está novamente no centro de um debate sobre responsabilidade legal, desta vez por supostamente fornecer conselhos médicos que agravaram a condição de um usuário. Um ex-pastor da Flórida processou a companhia, alegando que o ChatGPT-4o o desencorajou a procurar ajuda médica para sintomas que antecederam uma embolia pulmonar.

Segundo reportagem da Fast Company, o caso expõe a tensão fundamental no avanço da inteligência artificial no setor: a linha tênue entre uma ferramenta de apoio e um substituto perigoso para o diagnóstico profissional. A disputa judicial chega em um momento delicado, justamente quando a OpenAI lança uma integração formal com dados de saúde de usuários nos EUA.

A fronteira da responsabilidade

O cerne da ação é que o chatbot não teria se limitado a fornecer informações genéricas, mas sim conselhos específicos e danosos. Ao supostamente minimizar os sintomas do usuário e recomendar a imobilidade — fator que um médico depois associou à embolia —, o ChatGPT teria cruzado a linha da responsabilidade do produto. Isso desloca o debate do simples aviso de “não sou médico” para a esfera da responsabilidade objetiva: um produto que dá instruções perigosas pode se isentar com um disclaimer?

Este não é um incidente isolado. O mesmo grupo de advogados representa a família de um jovem que teria morrido após o ChatGPT supostamente o instruir a misturar medicamentos. Casos como este testam os limites de arcabouços legais desenhados para software, não para agentes que emulam raciocínio e autoridade humana. A defesa padrão da OpenAI, de que sua ferramenta não substitui cuidados médicos, será colocada à prova nos tribunais.

A corrida pelo prontuário digital

O timing do processo é sintomático. A OpenAI promove ativamente a integração de dados de saúde via Apple Health com sua nova função “Health in ChatGPT”. A ambição de se tornar um assistente de saúde personalizado colide diretamente com o aumento do risco legal. Segundo a empresa, 300 milhões de pessoas já buscam informações médicas semanalmente na plataforma, um sinal claro do tamanho da oportunidade e do risco.

O processo de Scott Winters, que pede o bloqueio do novo serviço, pode estabelecer um precedente crucial. A questão não é se a IA pode ser útil na saúde, mas quem arca com as consequências quando o algoritmo erra. O paradoxo é claro: à medida que as big techs se aproximam do prontuário do paciente, maior a distância que precisam manter de uma prática médica que não lhes compete.

O aviso padrão de que a IA não substitui um médico parece cada vez mais frágil diante de ferramentas persuasivas e integradas. O desfecho destes casos não definirá apenas o futuro da OpenAI, mas as regras de engajamento para uma indústria que vê na saúde sua próxima grande fronteira. A questão é se a regulação conseguirá acompanhar a velocidade da inovação.

Com reportagem de Brazil Valley

Source · Fast Company