A adoção acelerada de sistemas de inteligência artificial nas corporações tem gerado um rastro de vulnerabilidades críticas, segundo dados recentes divulgados pela DigiCert. De acordo com o levantamento, 78% das empresas entrevistadas reportaram incidentes de segurança ou a identificação de falhas diretamente ligadas às suas implementações de IA. O cenário é marcado pela ausência de protocolos de governança robustos, deixando as organizações expostas a riscos que poderiam ser evitados com controles de identidade mais rigorosos.

O estudo, que ouviu 1.001 líderes de TI e cibersegurança nos Estados Unidos, Reino Unido e Austrália, destaca que a maioria das falhas não decorre de erros no código gerado pela IA, mas sim da operação de agentes de IA não autorizados ou configurados incorretamente. Enquanto o entusiasmo com a produtividade impulsiona a corrida tecnológica, a falta de visibilidade sobre quem ou o que está operando dentro da rede corporativa cria pontos cegos operacionais significativos.

O abismo entre a estratégia e a prática

Embora 90% das organizações afirmem discutir a governança de IA em nível de conselho, apenas 50% possuem orçamentos dedicados ou programas formais para gerir essa tecnologia. Esse descompasso sugere que a governança ainda é tratada como um tópico de discussão teórica, sem se traduzir em políticas de segurança efetivas no chão de fábrica da TI. A ausência de uma estrutura de comando centralizada permite que departamentos isolados implementem ferramentas de IA sem o devido escrutínio de segurança.

O resultado desse hiato é uma fragilidade estrutural que dificulta a rastreabilidade das decisões tomadas pelos sistemas autônomos. Apenas 53% das empresas conseguem traçar a origem de uma decisão tomada por um modelo de IA de volta à fonte de dados original. Essa opacidade torna-se um passivo corporativo imediato quando sistemas produzem resultados inesperados ou controversos, deixando executivos sem respostas para clientes e reguladores.

O desafio da identidade dos agentes

A solução para o problema, segundo especialistas, passa pela implementação de uma infraestrutura de identidade para bots, similar ao que já ocorre com usuários humanos. A DigiCert defende que agentes de IA não devem operar sem uma identidade verificada, comparando o cenário atual à permissão de acesso a sistemas críticos sem qualquer forma de autenticação. Iniciativas como o Agent ID da Microsoft e o uso de PACTs (Private Access Control Tokens) buscam endereçar essa lacuna, mas o mercado ainda carece de um padrão universal.

O setor de cibersegurança enfrenta o desafio de criar um sistema de 'crachás' para bots que seja escalável e seguro. Enquanto essa infraestrutura não é consolidada, as organizações continuam a operar sob o modelo de 'implementar primeiro, perguntar depois'. A falta de um padrão de identificação universal deixa os agentes de IA operando de forma autônoma e, muitas vezes, invisível para os sistemas de monitoramento tradicionais.

Tensões no ecossistema de tecnologia

A desconexão entre a realidade das operações de segurança e as projeções de mercado é evidente ao comparar o relatório da DigiCert com visões mais otimistas, como o 'State of AI 2026' da Nvidia, que foca primordialmente na eficiência de custos e aumento de receita. Enquanto fornecedores de infraestrutura celebram o impacto positivo da IA nos resultados financeiros, os líderes de segurança lidam com o aumento da superfície de ataque e a necessidade de gerir incidentes que, até pouco tempo atrás, não existiam.

Para o ecossistema brasileiro, que tem adotado ferramentas de IA com rapidez, a lição é clara: a governança não deve ser vista como um entrave à inovação, mas como o alicerce necessário para a sustentabilidade do uso da tecnologia. A pressão de reguladores e a exigência de transparência por parte dos consumidores devem forçar uma mudança de postura em breve, tornando a governança de IA um requisito básico para a operação de qualquer negócio digital.

O que esperar da governança de agentes

O futuro da governança dependerá da capacidade das empresas de integrar a gestão de bots aos seus sistemas de identidade e acesso já existentes. Observar a adoção de padrões de mercado para a identificação de agentes será fundamental para entender se a indústria conseguirá autorregular o uso de IA antes que incidentes de maior gravidade forcem intervenções regulatórias mais duras.

O desafio permanece sobre como equilibrar a agilidade exigida pelo mercado com a necessidade de controle técnico. A questão central que as empresas deverão responder, além do porquê de terem implementado tal sistema, será como garantir que a autonomia da IA não comprometa a integridade dos seus ativos digitais mais valiosos.

Com reportagem de Brazil Valley

Source · The Register