A inteligência artificial (IA) agêntica, capaz de tomar decisões e executar tarefas de forma autônoma, já é uma realidade em 65% das organizações, segundo o relatório "From Agentic Risk to Human Wins: Building a Culture of Security in the Era of Agentic AI", da KnowBe4. No entanto, a incorporação dessa tecnologia avançada aos fluxos de trabalho corporativos ocorre em um vácuo de governança. O estudo aponta um desafio crítico para o cenário empresarial brasileiro: enquanto ferramentas autônomas de IA expandem rapidamente a superfície de ataque, as equipes de segurança lutam para implementar proteções adequadas.

O dado mais alarmante é que 60% dos líderes empresariais admitem que o uso de IA em seus ambientes é totalmente não aprovado ou não possui uma estrutura de governança corporativa formal. Essa "Shadow AI", como é conhecida, opera sem supervisão, funcionando como uma camada invisível de funcionários paralelos que lidam com dados organizacionais sensíveis. A falta de diretrizes claras e controle sobre essas ferramentas não apenas expõe as empresas a riscos, mas também cria um ambiente onde a segurança é secundária à funcionalidade ou velocidade percebida.

A Ascensão da IA Agêntica e Seus Riscos

Diferentemente da IA tradicional, que se limita a responder a comandos diretos, a IA agêntica possui a capacidade de tomar decisões complexas, orquestrar fluxos de trabalho de múltiplas etapas e interagir com outros sistemas sem a necessidade de intervenção humana constante. Essa autonomia transforma fundamentalmente a dinâmica da força de trabalho corporativa, introduzindo novas eficiências, mas também novos vetores de ataque. A velocidade e a escala com que essas ferramentas podem operar representam um desafio sem precedentes para as defesas de cibersegurança.

As consequências dessa falta de supervisão são tangíveis. O relatório da KnowBe4 indica que 63% dos tomadores de decisão em cibersegurança afirmam que o uso não autorizado de softwares externos e aplicações de IA não aprovadas degradou diretamente ou comprometeu ativamente a postura de segurança de suas organizações nos últimos 12 meses. Esse cenário é agravado pelo comportamento dos próprios usuários, que, em busca de agilidade, podem contornar as políticas de segurança da empresa.

O Comportamento do Usuário e a "Shadow AI"

Quase metade (47%) dos trabalhadores brasileiros admite que, se as ferramentas corporativas oficiais de IA forem muito restritivas ou lentas em seu desempenho, buscarão ativamente suas próprias ferramentas de IA agêntica não aprovadas. Essa busca por contornar bloqueios administrativos prioriza a velocidade e a conveniência em detrimento da segurança da informação corporativa. A mentalidade de "resolver o problema" com a ferramenta mais acessível, mesmo que não autorizada, cria uma brecha significativa que cibercriminosos podem explorar.

Essa tendência de adoção de ferramentas não sancionadas é um reflexo da rápida evolução da tecnologia de IA e da dificuldade das empresas em acompanhar esse ritmo. A promessa de maior produtividade e eficiência oferecida pela IA agêntica é um atrativo poderoso, levando funcionários a ignorar políticas internas em favor de soluções que consideram mais eficazes para suas tarefas diárias. A falha em fornecer ferramentas adequadas e seguras pode, paradoxalmente, levar à adoção de soluções que representam um risco ainda maior.

Implicações para a Cibersegurança Corporativa

Perry Carpenter, Chief Deception Strategist da KnowBe4, descreve a situação como uma "fase volátil" onde as organizações tentam proteger uma força de trabalho híbrida, composta por colaboradores humanos e sistemas de IA. Ele ressalta que os cibercriminosos operam na velocidade e escala da IA, utilizando estratégias multicanais sofisticadas, que vão desde SMS e phishing altamente personalizado até deepfakes e manipulação de comandos para assumir o controle de agentes de IA. Deixar mais da metade do uso corporativo de IA sem governança é, nas suas palavras, "um enorme convite aberto para criminosos cibernéticos".

A superfície de ataque se expande não apenas pela quantidade de ferramentas, mas pela complexidade e interconexão que elas permitem. A IA agêntica pode automatizar a descoberta de vulnerabilidades, a execução de exploits e a exfiltração de dados em uma escala e velocidade antes inimagináveis. A falta de visibilidade e controle sobre como esses agentes interagem com sistemas corporativos e dados sensíveis cria um cenário de alto risco, onde uma única falha de segurança pode ter consequências devastadoras.

Perguntas em Aberto e o Caminho a Seguir

O relatório da KnowBe4 sugere que, para mitigar esses riscos, as organizações precisam projetar sistemas que orientem o comportamento, fomentem culturas de segurança e migrem de uma abordagem reativa, focada em rastrear falhas, para uma proativa, que reforce ações positivas. A questão fundamental que permanece é como as empresas podem equilibrar a inovação e a adoção de IA agêntica com a necessidade imperativa de segurança e governança. Será que as políticas de segurança atuais são adaptáveis o suficiente para o ritmo da evolução da IA?

Observar como as empresas implementarão programas de treinamento e conscientização adaptados à IA agêntica, e se conseguirão fornecer ferramentas oficiais que atendam às demandas de produtividade sem comprometer a segurança, será crucial. A transição para uma cultura de segurança que abranja tanto humanos quanto agentes de IA exigirá uma reavaliação profunda das estratégias de gestão de riscos e de governança tecnológica.

A falta de governança formal sobre o uso de IA agêntica em ambientes corporativos, evidenciada pelo relatório da KnowBe4, representa um desafio significativo para a cibersegurança. A adoção de ferramentas não aprovadas e a dificuldade em acompanhar a evolução tecnológica criam um ambiente propício para ataques, exigindo uma reorientação estratégica para garantir a proteção de dados e sistemas em uma era cada vez mais automatizada.

Com reportagem de Brazil Valley

Source · TIInside