A Suprema Corte do estado americano do Novo México multou o advogado Stephen Aarons em US$ 5 mil e o considerou em desacato por usar informações fabricadas por inteligência artificial em um recurso judicial. Aarons representava um cliente condenado por assassinato e apresentou uma petição que citava testemunhas inexistentes e depoimentos policiais falsos, todos gerados por uma ferramenta de IA, provavelmente o ChatGPT.
Segundo os autos do processo, o advogado falhou em sua obrigação fundamental de "verificar as alegações factuais e legais" contidas no documento. O caso não é o primeiro do gênero, mas a penalidade financeira e a acusação de desacato pela mais alta corte do estado representam um dos mais severos alertas até agora sobre os perigos do uso acrítico de IA generativa na prática jurídica, um campo onde a precisão factual é um pilar central.
A Alucinação como Risco Profissional
O incidente destaca um fenômeno intrínseco aos grandes modelos de linguagem (LLMs) conhecido como "alucinação". Essas ferramentas são projetadas para gerar texto que soe plausível e coerente, não para garantir a veracidade factual. Como resultado, podem inventar citações, precedentes legais, nomes e eventos com a mesma fluência com que apresentam informações corretas. A defesa de Aarons, segundo reportagem da Ars Technica, foi justamente a ignorância sobre essa característica: "Eu não sabia que a IA poderia alucinar fatos", teria afirmado.
Essa alegação, no entanto, não isentou sua responsabilidade profissional. A decisão da corte do Novo México estabelece que a conveniência oferecida pela tecnologia não remove o dever do advogado de checar cada informação submetida a um tribunal. O episódio serve como um estudo de caso sobre a lacuna de conhecimento que ainda existe entre os profissionais e as ferramentas que começam a adotar. A responsabilidade final pela precisão, reitera a corte, é e continua sendo humana.
O Judiciário na Era da IA Generativa
O caso Aarons é sintomático de um desafio maior que o sistema judiciário enfrenta globalmente: como integrar as potenciais eficiências da IA sem comprometer a integridade do processo legal. Ferramentas de IA podem acelerar a pesquisa de jurisprudência e a redação de documentos preliminares, mas também abrem novas portas para erros, desinformação e até mesmo má conduta intencional. A resposta dos tribunais e das associações de advogados tem sido a de reforçar os princípios éticos existentes.
A punição no Novo México funciona como um sinal claro para a comunidade jurídica. Não se trata de proibir a tecnologia, mas de definir as regras de engajamento. A mensagem é que a IA deve ser tratada como um assistente não verificado, uma fonte primária de rascunhos que exigem escrutínio rigoroso, e não como uma autoridade oracular. Ações disciplinares como esta ajudam a construir um corpo de precedentes que guiará a regulamentação e as melhores práticas para o uso de IA na advocacia.
O episódio ilustra a tensão entre inovação e responsabilidade. À medida que a IA generativa se torna mais acessível e poderosa, a adaptação de profissões reguladas como o direito se torna mais urgente. O caso de Stephen Aarons não será o último, mas serve como um marco na difícil curva de aprendizado sobre como operar em um mundo onde a distinção entre fato e ficção plausível se tornou tecnologicamente turva.
Com reportagem de Brazil Valley
Source · The Verge
