Um advogado do Novo México, Stephen D. Aarons, enfrentou a corte após utilizar o ChatGPT para gerar depoimentos e testemunhas fictícias em um caso de apelação criminal. O caso, que veio à tona em uma audiência com cinco juízes, expõe os perigos de confiar cegamente em ferramentas de inteligência artificial sem a devida verificação.
Aarons representava um homem condenado pelo assassinato de sua esposa e, em sua defesa, submeteu documentos que incluíam depoimentos de pessoas inexistentes, como Danny e Linda Stanton, que supostamente teriam recebido ameaças. Outros depoimentos falsos detalhavam a aparência do atirador, todos criados pela IA. O advogado atribuiu o erro à sua própria "estupidez", alegando ter "assumido" que o ChatGPT produziria um resumo "à prova de bala" dos procedimentos, conforme relatado pelo New Mexico Supreme Court.
O Risco da "Estupidez" Tecnológica
O episódio com Stephen Aarons não é um incidente isolado, mas sim um reflexo de uma preocupação crescente no meio jurídico e em outras profissões. Juízes em diversas jurisdições têm alertado sobre a tendência de advogados utilizarem ferramentas de IA, como o ChatGPT, para agilizar a elaboração de documentos, muitas vezes sem a devida diligência. A "alucinação" de IA — a geração de informações falsas ou sem base factual — representa um risco significativo, podendo comprometer a integridade dos processos judiciais e a defesa dos clientes.
Um dos juízes questionou Aarons sobre sua falta de conhecimento a respeito das falhas de IA, observando que o problema das "alucinações" da inteligência artificial é uma notícia de destaque diária. A corte considerou que a desinformação de Aarons sobre a tecnologia foi uma escolha deliberada de se manter "enterrado na areia" ou um "aposta" arriscada, ambas inconsistentes com o código de conduta profissional.
Implicações para a Advocacia e o Judiciário
O caso de Aarons levanta sérias questões sobre a responsabilidade profissional ao empregar novas tecnologias. A confiança excessiva em IA pode levar a erros graves, como a submissão de testemunhos fabricados, o que, no contexto legal, pode ter consequências devastadoras para a justiça e para a carreira do profissional. A corte de Nova York, em um caso similar, expressou decepção e preocupação com a "preguiça" e os erros de advogados que usaram IA, classificando as falhas como "impressionantes, preocupantes, decepcionantes e tristes".
Além da advocacia, outros profissionais do sistema de justiça, como relatores judiciais, também foram flagrados cometendo erros ao usar documentos gerados por IA. A disseminação dessas falhas sublinha a necessidade urgente de diretrizes claras e treinamento adequado para o uso ético e responsável de inteligência artificial em ambientes profissionais sensíveis.
O Dilema do Cliente e a Sanção
Aarons admitiu em audiência que não informou seu cliente, que cumpre pena de prisão perpétua, sobre o uso do ChatGPT e a subsequente descoberta de depoimentos falsos. Ele justificou a omissão alegando dificuldades de comunicação com o cliente, que fala espanhol e está detido. Essa falta de transparência para com o cliente e sua família agrava a situação, levantando dúvidas sobre a conduta ética do advogado.
Como resultado de suas ações, Aarons foi considerado em desacato direto à corte, encaminhado ao Conselho Disciplinar para análise e impedido de atuar no tribunal até o fim da investigação. Além disso, foi multado em US$ 5.000, a serem pagos ao Fundo de Proteção ao Cliente da Ordem dos Advogados do Novo México. O caso resultou na designação de um defensor público para seu antigo cliente.
Perguntas em Aberto e o Futuro da IA no Direito
O incidente com Stephen Aarons serve como um alerta contundente para a comunidade jurídica global. A questão que permanece é como equilibrar os benefícios potenciais da inteligência artificial, como a otimização de tarefas e a análise de grandes volumes de dados, com a necessidade imperativa de precisão, ética e responsabilidade. A regulamentação do uso de IA no direito ainda está em desenvolvimento, e casos como este destacam a urgência de estabelecer parâmetros claros para evitar que a tecnologia se torne um veículo para a desinformação e a injustiça.
A comunidade jurídica precisará observar de perto como os órgãos reguladores e as cortes de todo o mundo responderão a esses desafios. A capacidade de discernir entre a informação gerada por IA e a factual, bem como a implementação de protocolos de verificação rigorosos, serão cruciais para manter a integridade do sistema de justiça na era digital. A "estupidez" de um indivíduo pode, ao menos, servir como um catalisador para a reflexão e a mudança.
Com reportagem de Brazil Valley
Source · 404 Media
