Quarenta por cento das organizações devem desativar ou reduzir drasticamente o uso de agentes de IA nos próximos ciclos operacionais. A projeção, apresentada pelo Gartner, aponta que a dificuldade em estabelecer um sistema de governança uniforme, que considere os diferentes níveis de autonomia e escopo de atuação, está levando ao colapso de diversas iniciativas de automação de negócios.
O mercado, que viu gigantes como SAP, Oracle, Workday e Salesforce promoverem a integração de agentes inteligentes em seus ecossistemas, agora enfrenta a realidade prática da implementação. A tese central é que a falha ocorre quando empresas tratam a governança de forma binária — ou bloqueando excessivamente as ferramentas, ou concedendo confiança total sem os devidos mecanismos de controle.
O dilema da autonomia e o risco operacional
O cerne do problema reside na incapacidade das empresas em distinguir entre a capacidade de ação de um agente e o escopo de acesso que lhe é concedido. Segundo o Gartner, a aplicação indiscriminada de controles cria dois cenários críticos: a subutilização de agentes simples, que acaba gerando o chamado "shadow IT", ou a exposição desnecessária de agentes autônomos, aumentando riscos de conformidade e segurança.
Shiva Varma, analista sênior do Gartner, destaca que agentes operam em velocidades e escalas que superam a capacidade de supervisão humana tradicional. Quando os controles são aplicados sem critérios de proporcionalidade, a organização perde a capacidade de resposta. A governança, portanto, precisa evoluir de uma estrutura estática para um modelo que incorpore monitoramento contínuo, guardrails robustos e mecanismos de interrupção imediata.
A falha na responsabilidade jurídica
Outro ponto de tensão é a ausência de responsabilidade legal por parte dos fornecedores de tecnologia. Embora empresas como a SAP prometam resultados seguros e precisos, o suporte contratual foca predominantemente em observabilidade e auditoria, transferindo o ônus do comportamento do agente para a organização que o implementa.
Especialistas jurídicos observam que a legislação atual ainda é insuficiente para lidar com a autonomia algorítmica, baseando-se em pressupostos de ação humana ou corporativa direta. O resultado é um impasse comercial onde o mercado precisa encontrar um equilíbrio entre a inovação acelerada e a proteção contra passivos imprevistos causados por decisões autônomas dos sistemas.
Implicações para o ecossistema corporativo
As empresas que pretendem manter o uso de agentes de IA deverão adotar uma abordagem de governança proporcional. Isso significa classificar cada agente conforme seu nível de autonomia e estabelecer perímetros de confiança específicos para cada função. A falha em implementar essa segmentação torna a operação vulnerável a violações que podem comprometer dados sensíveis ou fluxos de trabalho críticos.
Para o mercado brasileiro, que começa a adotar essas tecnologias em setores como serviços financeiros e varejo, o alerta é claro: a tecnologia não é uma solução pronta. A governança deve ser construída internamente, com clareza sobre quem é o responsável final pelo comportamento do agente e quais são os limites técnicos de sua atuação.
O futuro da automação inteligente
O cenário permanece incerto quanto à capacidade das empresas de adaptarem suas estruturas de TI para essa nova realidade de agentes autônomos. A questão que se coloca para os próximos meses é se o custo da governança rigorosa será proibitivo para projetos de menor escala ou se a indústria conseguirá padronizar protocolos de segurança mais eficientes.
A observação dos próximos desdobramentos dirá se a onda de desativação será apenas um ajuste de rota necessário para a maturidade da IA ou um sinal de que a tecnologia ainda carece de uma base estrutural mais sólida para ser adotada em larga escala. A responsabilidade pela viabilidade desses sistemas parece ter migrado definitivamente para o controle interno das corporações.
Com reportagem de [Brazil Valley](/categoria/Inteligência Artificial)
Source · The Register
