A inteligência artificial (IA) tem se tornado uma aliada cada vez mais presente no dia a dia de diversas profissões, e o Direito não é exceção. Advogados buscam na tecnologia uma forma de otimizar tempo e recursos, especialmente na elaboração de petições e documentos. No entanto, essa mesma IA, quando utilizada para gerar conteúdo, apresenta um desafio significativo: a propensão a "alucinações", ou seja, a invenção de fatos, citações e jurisprudências que não existem. Esse fenômeno tem gerado preocupações e, em alguns casos, consequências sérias, como a invalidação de decisões judiciais e a necessidade de retratações em tribunais.
O Dilema da IA no Setor Jurídico
O cenário descrito pela adoção de IA na advocacia é de dupla face. Por um lado, ferramentas como GPT-4 e Claude prometem acelerar a pesquisa, a redação e a organização de informações, liberando os profissionais para tarefas mais estratégicas. Por outro, a precisão e a exatidão, pilares essenciais da prática jurídica, são justamente os pontos onde a IA demonstra fragilidade. A própria OpenAI reconheceu que seus modelos, mesmo que capazes de passar em exames como o da ordem, ainda podem "alucinar" casos legais. Um exemplo notório foi o caso em que advogados da própria Anthropic, criadora do Claude, usaram citações fabricadas pela IA em documentos judiciais, atribuindo a falha ao próprio modelo.
CiteProof: Um Guardião Contra Alucinações
Diante desse cenário, surge o CiteProof, uma nova ferramenta online projetada especificamente para combater o problema das citações falsas em documentos jurídicos. Ao contrário de outras soluções que podem depender de IA, o CiteProof opera com uma abordagem determinística. Ele não utiliza modelos de linguagem probabilísticos ou IA generativa em seu processo de verificação. Em vez disso, a plataforma realiza buscas diretas e exatas em registros públicos de tribunais e bases de dados legais para confirmar a existência e a veracidade das citações e estatutos apresentados nos documentos.
Implicações e o Futuro da Verificação
A proposta do CiteProof é atuar como um "guardrail" objetivo para advogados que utilizam IA em suas rotinas. A ferramenta não avalia a qualidade do argumento jurídico, mas foca em garantir que as referências apresentadas sejam factualmente corretas. Isso libera o tempo de advogados e assistentes jurídicos, permitindo que se dediquem a tarefas mais complexas do que a checagem manual de citações. A empresa garante que os dados processados são efêmeros, com apenas trechos de citações sendo extraídos para consulta em bases públicas como o CourtListener, sem armazenamento ou transmissão para LLMs. A precificação varia de um plano gratuito para verificações individuais a pacotes pagos para uso mais intensivo, refletindo a demanda por soluções que mitiguem os riscos da automação irrestrita.
Com reportagem de Brazil Valley
Source · The Register
