A Justiça federal do Mississippi protagonizou um episódio emblemático sobre os limites da tecnologia no Direito. A juíza distrital Sharion Aycock cancelou um julgamento e desqualificou quatro advogados após constatar que ambas as partes utilizaram ferramentas de inteligência artificial generativa para redigir peças processuais que continham jurisprudência inexistente. O caso, que envolvia uma disputa contratual entre o advogado Tom Withers e a cidade de Aberdeen, revelou uma falha sistêmica na verificação básica de documentos judiciais.
Segundo a ordem de sanções emitida pela magistrada, os advogados foram penalizados não apenas pelo uso da tecnologia, mas pela negligência em validar o conteúdo gerado. A situação escalou para um cenário onde, essencialmente, sistemas de IA argumentavam uns contra os outros, desperdiçando recursos do tribunal e minando a integridade do processo legal. A decisão de Aycock, que incluiu multas e a proibição temporária de atuação na corte, reflete uma frustração crescente do Judiciário com a proliferação de alucinações em petições.
O risco da automação sem supervisão
O uso de IA na advocacia tem sido frequentemente apresentado como uma forma de otimizar o trabalho braçal, mas o caso do Mississippi demonstra a fragilidade de adotar essas ferramentas como um "carimbo automático". A juíza Aycock destacou que, em uma era de uso não verificado de IA, o advogado que simplesmente delega a redação de documentos a um software sem revisão humana atua com extrema negligência profissional. O problema central identificado não foi a ferramenta em si, mas a ausência de um filtro crítico que pudesse detectar a fabricação de precedentes inexistentes.
Vale notar que, embora existam ferramentas de pesquisa jurídica desenhadas especificamente para o setor, o erro humano permanece como o fator determinante. No caso de uma das advogadas envolvidas, Kathryn Williams, a falha ocorreu ao utilizar um software de pesquisa focado em jurisdições onde seu escritório habitualmente atua, ignorando que a ferramenta não estava configurada para a lei do Mississippi. Esse comportamento indica uma desconexão entre a conveniência tecnológica e o rigor necessário para a prática jurídica.
Mecanismos de falha e incentivos
O fenômeno das "alucinações" em modelos de linguagem é bem documentado, mas a persistência dos advogados em utilizá-los sem conferência sugere incentivos distorcidos. A busca por eficiência a qualquer custo, muitas vezes para reduzir horas de trabalho em casos de menor complexidade ou orçamento, acaba por criar um passivo reputacional e jurídico imenso para os profissionais. A juíza observou que, mesmo após serem confrontados pelo tribunal, alguns advogados demonstraram pouco entendimento sobre o funcionamento básico das ferramentas que operavam.
A persistência no erro é um ponto crítico. A advogada Kathleen Wilson, por exemplo, continuou a utilizar IA em outros processos mesmo após ter sido notificada de suas violações iniciais. Essa reincidência, descrita pela magistrada como uma "incredulidade" diante das falhas da tecnologia, sugere que o problema transcende a falta de conhecimento técnico e toca na responsabilidade ética fundamental do advogado perante o tribunal.
Implicações para o ecossistema legal
Para o ecossistema jurídico, o precedente do Mississippi serve como um alerta severo. Reguladores e tribunais ao redor do mundo estão começando a endurecer as regras sobre a transparência no uso de IA. A expectativa é que, nos próximos anos, a exigência de disclosure sobre o uso de automação em peças processuais torne-se a norma, e não a exceção. Advogados que ignorarem essa necessidade de supervisão humana rigorosa correm o risco não apenas de sanções financeiras, mas de perda definitiva da licença para advogar.
No Brasil, onde a adoção de IA por escritórios de advocacia cresce rapidamente, o debate segue caminhos similares. A preocupação de juízes com a veracidade de citações em petições já é uma realidade crescente, e o rigor observado no caso de Aycock pode servir como parâmetro para a postura que magistrados brasileiros adotarão diante de petições geradas por máquinas sem revisão humana. O desafio é equilibrar a inovação tecnológica com a preservação da segurança jurídica.
O futuro da prática jurídica
O que permanece incerto é se a indústria jurídica será capaz de autorregular o uso dessas ferramentas antes que intervenções legislativas mais drásticas sejam necessárias. A tecnologia continuará a evoluir, tornando as alucinações mais difíceis de detectar à primeira vista, o que exigirá dos advogados um nível de literacia digital muito superior ao atual. O caso do Mississippi é um lembrete de que, perante a lei, a responsabilidade pelo conteúdo de um documento é indelegável.
Observar como os tribunais continuarão a lidar com casos de reincidência será fundamental para entender o limite da tolerância do Judiciário. A tecnologia pode auxiliar na pesquisa e na redação, mas a função de garantir a veracidade dos fatos e da jurisprudência continua sendo a essência da profissão jurídica. O futuro do Direito, ao que tudo indica, dependerá da capacidade dos profissionais em manter o controle sobre as ferramentas que utilizam.
O episódio levanta questões sobre se a formação jurídica atual está preparada para lidar com os riscos da era da inteligência artificial. Resta saber se o medo de sanções será o suficiente para frear a automação descuidada ou se veremos novos casos de "comédias de erros" processuais nos tribunais.
Com reportagem de Brazil Valley
Source · 404 Media
