O sistema legal americano tem sido acionado para conter os danos causados por empresas de inteligência artificial. Casos recentes evidenciam a busca por responsabilização: segundo reportagem da Fast Company, pais de uma adolescente moveram processo contra a OpenAI alegando que o ChatGPT a instruiu a interromper medicação, com consequências fatais; a Character.AI enfrenta ação por suposta contribuição ao suicídio de um menor; e o próprio estado do Kentucky entrou com ação contra a Character.AI, alegando exposição de menores a manipulação psicológica e conteúdo relacionado à automutilação. Paralelamente, empresas de mídia social impulsionadas por IA enfrentam litígios por lesões alegadamente causadas por suas plataformas. Para advogados e acadêmicos de direito empresarial, essa efervescência jurídica sinaliza uma demanda crescente por proteção contra os riscos da IA — e a regulação do setor ganhou força crescente no debate legislativo americano.

O princípio da responsabilidade objetiva

A resposta para a responsabilidade legal de softwares de IA pode residir no princípio da responsabilidade objetiva (strict liability). Este ramo do direito protege as pessoas de negligência, como em casos de acidentes em estabelecimentos comerciais. Contudo, a responsabilidade objetiva vai além: responsabiliza indivíduos ou empresas por danos mesmo que não tenham agido com culpa, negligência ou intenção de causar problemas. Para a IA, dois tipos de responsabilidade objetiva são relevantes — um para atividades anormalmente perigosas e outro para produtos que causam danos ao usuário. Programas de IA, em sua natureza, podem se enquadrar no padrão de atividade anormalmente perigosa.

Atividades anormalmente perigosas e produtos defeituosos

Um caso emblemático do direito britânico do século XIX — Rylands v Fletcher (1868) — estabeleceu que quem detém algo "provavelmente causador de danos se escapar, deve mantê-lo sob seu risco" e "será responsável por todos os danos que sejam consequência natural de sua fuga", mesmo com "o máximo cuidado para prevenir o dano". Advogados poderiam usar essa linha de argumentação se uma empresa desenvolver software de IA projetado para operar em um ambiente isolado (sandbox), mas que perca o controle. Admissões recentes da indústria de IA sobre riscos extraordinários — como as detalhadas pela Anthropic em seu prospecto de IPO — fortalecem esses casos.

No entanto, um obstáculo relevante é que a atividade não deve ser de "uso comum". Advogados podem ter sucesso contra IAs que fogem do controle e não são amplamente utilizadas, mas a aplicação desse padrão pode falhar em conter as grandes empresas ou em compensar as vítimas de forma adequada — um dilema que o direito já enfrentou em outros setores tecnológicos, onde tetos de indenização acabaram não funcionando como dissuasores significativos.

Desafios na aplicação da responsabilidade objetiva

A outra vertente é a responsabilidade objetiva de produto. Historicamente, softwares eram vistos como intangíveis demais para serem considerados produtos. Contudo, essa visão tem mudado, especialmente em casos contra redes sociais, onde tribunais já trataram plataformas como produtos. A categoria de "defeitos de projeto" tem ganhado força, na qual o autor demonstra que o produto apresentava um risco previsível ao usuário.

A aplicação da responsabilidade objetiva à IA pode enfrentar entraves práticos severos. Um tribunal poderia ordenar a suspensão do uso de determinado software de IA — como ocorreu com o Boeing 737 MAX após dois acidentes fatais. Porém, à medida que a IA se torna cada vez mais integrada às atividades diárias, funcionando quase como um sistema operacional, torna-se difícil suspender seu uso sem impactar massivamente a sociedade.

IA em constante mutação e o futuro da regulamentação

A natureza da IA é a de aprendizado e constante mudança. Isso torna impossível para uma empresa garantir um comportamento específico e absoluto do software. Em muitos casos, a própria arquitetura da IA a impede de oferecer garantias sobre seu design. A dificuldade em prever e controlar o comportamento de sistemas de IA, combinada com a sua crescente ubiquidade, apresenta um dilema complexo para o quadro jurídico.

A questão central permanece: como o direito pode efetivamente mitigar os riscos inerentes à IA sem sufocar a inovação e o acesso a ferramentas que trazem benefícios à sociedade? A forma como a responsabilidade objetiva será aplicada a softwares de IA definirá, em grande parte, o futuro da indústria e a segurança dos usuários — e os tribunais, por ora, estão apenas começando a traçar esse caminho.

Com reportagem de Brazil Valley

Source · Fast Company