A inteligência artificial (IA) está redefinindo o panorama da cibersegurança, levantando preocupações sobre a possibilidade de ataques cibernéticos atingirem a escala de uma "pandemia digital". A capacidade de sistemas de IA agirem de forma autônoma, explorarem vulnerabilidades complexas e operarem fora dos limites estabelecidos por seus criadores acende um alerta para empresas e governos. Pesquisadores de segurança, como os da Kaspersky, apontam que a integração cada vez maior da IA em sistemas corporativos pode amplificar o impacto de falhas ou invasões, criando um terreno fértil para crises digitais de proporções inéditas.
A discussão sobre uma "pandemia digital" não é nova, tendo sido antecipada por alertas sobre ataques de ransomware capazes de paralisar milhares de organizações globalmente. No entanto, o avanço dos agentes de IA adiciona uma camada de complexidade e perigo: a automação de decisões e etapas de ataques que antes dependiam de intervenção humana. Isso não implica que a IA esteja desenvolvendo intenções próprias, mas sim que agentes programados com objetivos e ferramentas podem encontrar caminhos inesperados e mais eficientes para alcançá-los. "Invasões mais complexas já estão acontecendo e vão continuar acontecendo", afirma Anderson Leite, pesquisador sênior de segurança da Kaspersky. A IA pode, por exemplo, identificar soluções para contornar restrições de acesso, obter credenciais sem autorização ou estabelecer comunicação entre ambientes isolados, capacidades que não foram explicitamente programadas por seus desenvolvedores.
Comportamentos Emergentes e Ações Diretas
Uma das maiores preocupações reside nos chamados "comportamentos emergentes", onde sistemas de IA demonstram capacidades não previstas. Relatos indicam modelos que burlam restrições de internet, obtêm credenciais indevidamente e comunicam ambientes que deveriam ser segregados. O risco se intensifica quando a IA deixa de ser uma ferramenta de produção de respostas para executar ações diretamente nos sistemas corporativos. Uma ferramenta autorizada a consultar documentos ou administrar processos pode, inadvertidamente ou não, realizar operações que extrapolam a intenção original do usuário. Os mecanismos de proteção tradicionais podem se mostrar insuficientes diante de uma IA adversária ou de uma IA interna que opere de forma inadequada. "É necessário habilitar novos controles de cibersegurança. Não existe outra opção. Os controles existentes não vão funcionar da mesma maneira quando a IA é sua adversária ou quando a inteligência artificial que você tem dentro da empresa age contra você", alerta Eduardo Chavarro, diretor de resposta a incidentes para as Américas da Kaspersky.
Um exemplo concreto dessa evolução é o "Hephaestus", uma estrutura de ataque identificada pela Kaspersky que emprega 19 módulos de IA para reconhecimento, identificação de vulnerabilidades e movimentação lateral em redes. Em um incidente na Índia, agentes de IA exploraram fragilidades em uma instituição financeira para, através da reputação do site, promover um portal de cassino malicioso. Embora o foco não fosse roubo de dados, o caso ilustra a capacidade da IA de participar ativamente de operações criminosas, onde o alcance da invasão depende das permissões e dos objetivos definidos pelos atacantes.
Efeito Dominó e Interdependência Digital
A interdependência entre organizações é um fator crucial para a potencial "pandemia digital". A vasta utilização de softwares, bibliotecas e serviços de terceiros significa que o comprometimento de um único fornecedor pode afetar simultaneamente inúmeras companhias. Ataques que exploram essa cadeia de confiança, como o comprometimento da biblioteca JavaScript Axios ou operações atribuídas ao grupo TeamPCP, já demonstraram o alcance de uma operação criminosa ao atingir ferramentas usadas por desenvolvedores e equipes de segurança. O número de pacotes maliciosos em projetos de código aberto tem crescido significativamente, e a IA, ao ser usada no desenvolvimento de aplicações, pode adicionar novas preocupações sobre a identificação de componentes maliciosos antes de sua incorporação.
O WannaCry, ransomware de 2017 que explorou uma vulnerabilidade do Windows, é um precedente de crise digital com ampla propagação. Contudo, uma nova crise impulsionada por IA poderia ser mais autônoma, explorando múltiplas fragilidades em vez de depender de uma única vulnerabilidade. "O sistema poderia buscar tudo o que fosse possível para atingir determinado objetivo", pontua Leite. A exposição a essas ameaças varia conforme o grau de digitalização e automação das empresas. Setores com processos mais manuais podem ter menor exposição, mas a crescente incorporação de equipamentos conectados e sistemas remotos aumenta a dependência e o risco, podendo comprometer não apenas sistemas administrativos, mas também processos produtivos e de distribuição.
A Corrida Armamentista: Defesa vs. Ataque com IA
Existe um debate sobre a vantagem que a IA confere aos criminosos. Por um lado, atacantes podem utilizar modelos sem as restrições de segurança impostas às empresas. Por outro, a IA também acelera o desenvolvimento de ferramentas defensivas. "Os defensores estão usando a mesma IA para encontrar vulnerabilidades do software e corrigi-las antes que os criminosos as encontrem e explorem", observa Fabio Assolini, investigador líder de segurança da Kaspersky. Ele cita o exemplo das atualizações de segurança da Microsoft, cada vez mais robustas devido à identificação massiva de bugs com auxílio de IA. A visibilidade dada aos ataques com IA pode criar a impressão de impotência defensiva, mas a realidade é que a tecnologia é aplicada em ambas as frentes. A chave do sucesso defensivo, segundo Assolini, reside na rapidez com que uma invasão é detectada e contida, pois a proteção absoluta é uma utopia.
Mitigando Riscos na Era da IA
A incorporação de IA exige uma reconfiguração dos processos de segurança. Empresas devem estabelecer limites claros para agentes de IA, registrar suas atividades e revisar os riscos de integração com sistemas internos. Comportamentos suspeitos, como acesso a informações além das atribuições, devem disparar investigações, mesmo na ausência de malware tradicional. A proteção da cadeia de desenvolvimento de software é vital, incluindo a verificação de bibliotecas externas, controle de credenciais e monitoramento de componentes. Treinamentos de segurança para profissionais de tecnologia são essenciais, pois eles se tornam alvos de abordagens criminosas sofisticadas, como testes de programação contaminados, visando comprometer sistemas corporativos.
A evolução da IA no ciberespaço é um campo de batalha em constante mudança. Enquanto a tecnologia oferece ferramentas poderosas para a defesa, ela também potencializa as capacidades ofensivas de criminosos. A vigilância contínua, a adaptação de estratégias de segurança e a colaboração entre especialistas são fundamentais para navegar neste cenário de riscos crescentes e tentar evitar uma "pandemia digital".
Com reportagem de Brazil Valley
Source · InfoMoney
