Duas advogadas que atuam no Pará foram multadas em R$ 84 mil após tentarem manipular o sistema de inteligência artificial Galileu, utilizado pela Justiça do Trabalho. O incidente, ocorrido na 4ª Vara do Trabalho de Parauapebas, envolveu a inserção de um comando oculto na petição inicial, escrito em fonte branca sobre fundo branco, visando induzir a ferramenta a contestar os próprios argumentos apresentados.

O sistema Galileu, desenvolvido para auxiliar na triagem e no resumo de processos, identificou a instrução maliciosa durante o processamento do arquivo. O magistrado responsável pelo caso classificou a manobra como um ato atentatório à dignidade da Justiça, determinando a notificação da OAB e do Ministério Público para apuração de possíveis infrações éticas e criminais.

Vulnerabilidades do processamento automatizado

A técnica utilizada pelas profissionais é conhecida como "injeção de prompt", um desafio técnico comum em modelos de linguagem (LLMs). O ataque explora a dificuldade desses sistemas em distinguir entre o conteúdo informativo que deve ser processado e as instruções de controle que orientam a execução da tarefa. Ao inserir comandos invisíveis ao olho humano, os atacantes tentam sequestrar o comportamento da IA.

Sistemas como o Galileu, no TRT-8, ou a Maria, no STF, foram desenhados para otimizar o fluxo de trabalho em tribunais sobrecarregados. No entanto, a dependência crescente da automação sem uma camada robusta de validação humana inicial cria janelas de oportunidade para manipulações. O caso de Parauapebas ilustra como a tecnologia, embora eficiente, introduz vetores de ataque até então inexistentes na prática jurídica tradicional.

O dilema da responsabilidade técnica

O mecanismo de defesa do sistema Galileu foi decisivo para desmascarar a tentativa de fraude, mas a decisão judicial destaca uma tensão fundamental: a responsabilidade do advogado no uso de ferramentas tecnológicas. O juiz isentou o trabalhador de culpa, atribuindo a responsabilidade integral ao escritório, o que reforça a tese de que o uso de IAs não exime o profissional de seus deveres éticos perante o tribunal.

As advogadas, que pretendem recorrer da decisão, argumentaram que a inserção do texto visava proteger o cliente de uma avaliação supostamente enviesada pela própria máquina. Essa justificativa, contudo, levanta um debate sobre a transparência dos algoritmos. Se os advogados começam a "programar" as IAs dos tribunais para garantir resultados favoráveis, a integridade do processo judicial torna-se uma questão de segurança de TI.

Implicações para o ecossistema jurídico

A condenação sinaliza um endurecimento do Judiciário frente a tentativas de contornar a governança de dados. Para advogados e lawtechs, o precedente é claro: o uso de técnicas de prompt injection em documentos oficiais será tratado como má-fé processual. Reguladores e tribunais deverão, inevitavelmente, investir em camadas de cibersegurança que validem a integridade dos arquivos antes da leitura pelos modelos de IA.

Para o setor de tecnologia jurídica no Brasil, o desafio é equilibrar a agilidade da automação com a necessidade de auditoria. Se o sistema não consegue distinguir entre um texto legítimo e um comando oculto, a confiança na decisão automatizada é comprometida. O caso reforça a necessidade de protocolos rígidos de entrada de dados em sistemas públicos.

O futuro da supervisão algorítmica

O que permanece incerto é como os tribunais brasileiros adaptarão suas políticas de governança de IA para prevenir novos episódios. A tecnologia continuará evoluindo e, com ela, a sofisticação dos ataques, o que exigirá uma vigilância constante por parte das corregedorias.

O desfecho deste recurso será um divisor de águas para a jurisprudência sobre o uso de IAs. O Judiciário está aprendendo, na prática, que a era da digitalização de documentos deu lugar à era da interação com agentes autônomos, onde a segurança da informação é tão vital quanto a qualidade do argumento jurídico.

Com reportagem de Brazil Valley

Source · Tecnoblog