Empresas que implementam práticas de “IA confiável” — um framework que abrange governança, qualidade de dados e auditoria — têm 15 vezes mais probabilidade de reportar retornos significativos sobre o investimento em seus projetos de inteligência artificial. A cifra, que transforma um conceito etéreo em um driver de negócio, vem do mais recente estudo da companhia de software SAS em parceria com a consultoria IDC.

A pesquisa, intitulada “Data and AI Impact Report: The New Economics of Trust”, sugere que o mercado está se bifurcando. De um lado, um pequeno grupo de organizações com práticas robustas de confiança relata o dobro do ROI de seus pares. Do outro, entre os retardatários, menos de uma em cada 20 empresas alcança desempenho semelhante. A tese é clara: a confiança não é mais um item de compliance ou um discurso de relações públicas, mas um pré-requisito para a escala e a rentabilidade da IA.

O custo do ‘override’

O principal obstáculo para a adoção bem-sucedida da IA não é técnico, mas humano: a desconfiança. Segundo a pesquisa, 97,2% dos usuários corporativos ignoram as recomendações geradas por sistemas de IA em pelo menos algumas situações. O principal motivo global para esse “override” manual é a incapacidade da tecnologia de explicar como chegou a uma determinada conclusão. Sem explicabilidade, a IA se torna uma caixa-preta, e a desconfiança leva os funcionários a reverterem para processos manuais, minando a produtividade que a própria tecnologia deveria gerar.

Esse comportamento cria um ciclo vicioso. A falta de confiança nas recomendações leva ao desuso ou à correção manual, o que perpetua o déficit de credibilidade da IA e gera perdas de tempo e lucratividade. Como afirmou Bryan Harris, CTO do SAS, agentes de IA podem ter taxas de erro superiores a 25% em tarefas complexas, um número inaceitável para decisões críticas. A solução, aponta o estudo, passa por manter humanos no centro da governança e supervisão.

A particularidade brasileira

O Brasil aparece bem posicionado no estudo, superando a média global no Índice de Confiabilidade e liderando a América Latina no Índice de Impacto da IA, com metade das organizações locais já operando a tecnologia em produção. O desafio aqui, no entanto, tem uma nuance. Enquanto globalmente a falta de explicabilidade é o principal motor da desconfiança, no Brasil a raiz do problema está nos dados: 30,2% dos usuários brasileiros ignoram as recomendações da IA devido à falta de contexto ou especificidade.

A leitura é que modelos genericamente corretos, mas que não refletem a realidade e as particularidades do mercado brasileiro, acabam sendo ineficazes na prática. Para André Novo, Country Manager do SAS Brasil, o país já superou a fase de projetos-piloto. Agora, o foco é gerar retorno em escala, o que torna a conformidade com a LGPD e o investimento em uma base sólida de dados e governança uma prioridade estratégica para sustentar a liderança.

À medida que a IA se torna mais autônoma, o desafio da confiança se intensifica. A pesquisa mostra que a confiança cai de 76% na IA generativa para 66% na IA agêntica. Escalar a automação exigirá, paradoxalmente, uma supervisão humana e uma governança de dados ainda mais robustas para que a tecnologia entregue o valor prometido.

Com reportagem de Brazil Valley

Source · TIInside