A inteligência artificial (IA) está redefinindo o panorama da cibersegurança, conferindo uma vantagem cada vez maior aos atacantes e colocando em xeque as capacidades de defesa dos sistemas computacionais. A dualidade da tecnologia foi destacada por Jéferson Nobre e Alberto Schaeffer Filho, professores do Instituto de Informática (INF) da Universidade Federal do Rio Grande do Sul (UFRGS). Segundo eles, enquanto a IA pode acelerar a identificação de falhas e otimizar a resposta a incidentes, a sua capacidade de gerar e coordenar ataques em alta velocidade amplia a desvantagem das defesas. Paralelamente, a proliferação de plataformas que utilizam IA para criar códigos, sites e aplicativos com pouca intervenção técnica tem levado à implantação de sistemas sem a devida avaliação de segurança.
Jéferson Nobre ressalta que a IA atua como uma "faca de dois gumes", auxiliando tanto agressores quanto defensores. A mesma tecnologia que pode identificar vulnerabilidades em uma organização também facilita a criação de ferramentas de ataque mais sofisticadas. Alberto Schaeffer Filho complementa o alerta, mencionando que modelos de IA podem ser manipulados por meio de entradas cuidadosamente elaboradas ou dados maliciosos. O cenário se torna ainda mais preocupante com a existência de agentes de IA que já demonstram capacidade de orquestrar ataques de forma autônoma, explorando suas próprias descobertas e comunicando-se para coordenar ações.
A prática conhecida como 'vibe coding', onde usuários descrevem em linguagem natural o que desejam e a IA gera o código, reduz drasticamente a barreira técnica para a criação de aplicações. No entanto, essa facilidade não garante a implementação correta de mecanismos de segurança. Um estudo da Veracode, que avaliou mais de 100 modelos de IA na geração de códigos seguros, revelou que 45% das amostras continham vulnerabilidades associadas ao OWASP Top 10, um guia das dez categorias de risco mais críticas para aplicações web. Nobre aponta que muitos usuários, sem o conhecimento técnico para analisar a segurança do código gerado pela IA, acabam inadvertidamente criando ferramentas com falhas.
O risco é amplificado pelo fato de que os próprios sistemas de IA se tornaram alvos potenciais. Modelos de linguagem, por exemplo, podem ser submetidos a técnicas como 'prompt injection', onde instruções maliciosas alteram o comportamento esperado do sistema. O OWASP também identifica outros riscos significativos, como vazamento de informações sensíveis, uso inadequado das respostas geradas pela IA e a concessão excessiva de autonomia aos sistemas. Isso demonstra que as barreiras de segurança inerentes aos modelos de IA não devem ser a única linha de defesa.
Com reportagem de Brazil Valley
Source · TIInside
