A automação de decisões, especialmente através de algoritmos complexos, criou um dilema fundamental para empresas e para a sociedade: como equilibrar a necessidade de transparência com a proteção de segredos de negócio. Se um sistema antifraude revela seus mecanismos exatos, criminosos podem aprender a contorná-lo. Da mesma forma, expor os modelos e dados que conferem vantagem competitiva a uma empresa pode minar sua posição no mercado. Contudo, quando um algoritmo decide o destino de uma pessoa – negando crédito, um serviço ou até mesmo um emprego –, a falta de explicação sobre os critérios pode levar a erros, injustiças e à impossibilidade de contestação.
O Equilíbrio entre Divulgação e Proteção
A questão central não é simplesmente escolher entre transparência total ou sigilo absoluto, nem exigir a abertura de código-fonte ou fórmulas proprietárias. A resposta reside em uma abordagem de transparência em camadas, proporcional ao impacto da decisão e adequada ao destinatário. Segredos de negócio são ativos juridicamente protegidos, essenciais para a inovação e a concorrência, fruto de anos de investimento. No entanto, quanto mais significativa for a consequência de uma decisão automatizada na vida de um indivíduo – seja em sua renda, reputação ou acesso a serviços –, maior deve ser a capacidade de compreender suas bases e, se necessário, contestá-la. Isso pode significar informar as categorias de dados utilizadas, os fatores mais influentes e, de forma geral, como eles impactam o resultado, sem necessariamente revelar detalhes técnicos confidenciais.
Precedentes Legais e Regulatórios
No Brasil, o Superior Tribunal de Justiça (STJ) já reconheceu em 2014 que fórmulas e modelos estatísticos são segredo empresarial, mas assegurou ao consumidor o direito de conhecer as informações usadas para que possa verificar sua veracidade e retificá-las. Essa lógica foi incorporada pela Lei do Cadastro Positivo e pela Lei Geral de Proteção de Dados (LGPD). O artigo 20 da LGPD garante o direito de solicitar revisão de decisões automatizadas e, mediante pedido, obter informações claras sobre os critérios e procedimentos, respeitando os segredos comercial e industrial. Em caso de recusa fundamentada em segredo, a Autoridade Nacional de Proteção de Dados (ANPD) pode intervir para verificar possíveis discriminações.
Transparência na Prática e Implicações Futuras
O Tribunal de Justiça da União Europeia, em 2025, avançou ao determinar que explicações sobre decisões automatizadas devem permitir a compreensão de como o resultado foi produzido, afastando a ideia de informações abstratas. A regulação também reflete essa abordagem em camadas. A Portaria 463/2026 do TSE, por exemplo, diferencia informações públicas de acesso restrito, protegendo segredos de negócio e segurança. O AI Act da União Europeia estrutura a transparência conforme o papel de cada ator na cadeia de valor da IA, exigindo que fornecedores de modelos de IA compartilhem informações com desenvolvedores para que estes compreendam capacidades e limitações, ao mesmo tempo que protege segredos comerciais e código-fonte perante autoridades. A transparência graduada, portanto, é o caminho para garantir que as decisões automatizadas sejam justas e contestáveis, sem comprometer a inovação e a competitividade das empresas. O desafio reside em definir, para cada contexto, o nível adequado de explicação.
Com reportagem de Brazil Valley
Source · TIInside
