A inteligência artificial (IA) deixou de ser uma novidade para se consolidar como uma ferramenta de trabalho comum em diversas profissões. Pesquisas recentes indicam que uma parcela significativa de trabalhadores, especialmente em serviços profissionais, já utiliza IA em suas rotinas. Para contadores, advogados e consultores, essas ferramentas prometem agilizar pesquisas, resumir informações complexas e auxiliar na comunicação. No entanto, essa rápida adoção esconde um lado sombrio: a IA pode gerar informações que soam autoritativas e bem apresentadas, mas que são completamente errôneas.
Quando a IA comete erros, a responsabilidade recai sobre o profissional ou a empresa que utiliza essa tecnologia, e não sobre os desenvolvedores dos sistemas de IA. Casos de citações fabricadas, fontes inexistentes e informações imprecisas já resultaram em processos judiciais, multas, consequências financeiras e constrangimento público. Essas ocorrências levantam uma questão cada vez mais pertinente: como os profissionais podem se beneficiar da IA sem terceirizar o julgamento crítico que suas funções exigem?
O Perigo das Citações Fabricadas
Um exemplo notório dessa problemática ocorreu no caso Clinco v. Commissioner, perante o U.S. Tax Court. Um advogado apresentou um parecer ao tribunal com o que pareciam ser citações falsas, alegadamente geradas por IA. O tribunal, ao analisar o caso de um proprietário de restaurante acusado de subdeclarar receitas, identificou que três das quatro citações apresentadas pelo advogado pareciam ser “alucinações” de IA, referindo-se a casos inexistentes na corte. A corte rejeitou o argumento do contribuinte e alertou o advogado sobre a possibilidade de sanções, incluindo multas ou ações disciplinares, por submeter citações falsas. Embora o advogado não tenha sido sancionado neste caso específico, a decisão sinalizou que o uso de IA que produz erros não será tolerado.
Erros de IA e Responsabilidade Corporativa
Os equívocos cometidos por IA não se limitam a pareceres jurídicos. A consultoria Deloitte, por exemplo, produziu em 2025 um extenso relatório para o governo australiano sobre um sistema automatizado de penalização a beneficiários de bem-estar social. O documento continha citações acadêmicas inexistentes e uma citação judicial fabricada. A empresa atribuiu os erros à IA generativa e concordou em reembolsar parcialmente seus honorários. Em outro caso, um chatbot da Air Canada informou incorretamente a um cliente que ele poderia comprar uma passagem aérea sob a política de luto e ser reembolsado posteriormente. A companhia aérea se recusou a honrar a informação, mas o cliente processou e ganhou uma indenização, com o tribunal decidindo que a Air Canada falhou em garantir que seu bot de IA fornecesse informações precisas, agindo de forma negligente.
Implicações Legais e a Busca por Equilíbrio
Casos como o de Mark Walters, que processou a OpenAI após o ChatGPT difamá-lo com informações falsas sobre um suposto desfalque, e Keene v. Google LLC, onde um produtor de TV alegou que resumos de IA do Google publicaram informações falsas sobre seu histórico criminal, demonstram a crescente complexidade legal. Embora algumas ações contra plataformas de IA tenham sido desqualificadas, outras, como a de Keene, seguem em andamento, levantando a questão da responsabilidade dos provedores de IA. A dificuldade em identificar erros de IA, que muitas vezes vêm acompanhados de explicações e referências que conferem credibilidade aparente, torna o desafio ainda maior para os profissionais que dependem dessas ferramentas.
Perguntas em Aberto sobre o Futuro da IA no Trabalho
A ascensão da inteligência artificial no ambiente profissional traz consigo um dilema: como maximizar seus benefícios sem comprometer a precisão e a responsabilidade? A tendência é que a regulamentação e a jurisprudência se adaptem para definir os limites da responsabilidade. Profissionais e empresas precisam estar cientes de que a delegação de tarefas à IA não implica a delegação de responsabilidade. O julgamento humano e a verificação criteriosa das informações geradas pela IA permanecem insubstituíveis, especialmente em áreas onde a precisão é crítica e as consequências de um erro podem ser severas. A questão que permanece é como encontrar o equilíbrio ideal entre a inovação tecnológica e a salvaguarda da integridade profissional e corporativa.
Com reportagem de Brazil Valley
Source · Fast Company
