O phishing, uma tática de ciberataque que remonta aos primórdios da internet, continua sendo a ferramenta predileta de criminosos para roubar informações e implantar malware. Recentemente, o FBI reportou que 26% de todas as reclamações de cibercrime são relacionadas a phishing. A má notícia é que essa prática está se tornando mais perigosa. A ascensão da Inteligência Artificial Generativa (GenAI) transformou o phishing de uma ameaça facilmente identificável para um instrumento de precisão letal, levantando questões complexas para os defensores de segurança.
Historicamente, os ataques de phishing eram limitados por erros gramaticais, formatação amadora e a dificuldade em escalar ataques personalizados. A GenAI, contudo, elimina essas restrições. Com um mínimo de expertise e baixo custo, atacantes podem agora enviar milhares de e-mails meticulosamente adaptados a milhares de vítimas. Os Modelos de Linguagem Grandes (LLMs) geram textos polidos e contextuais em qualquer idioma, complementados por gráficos de marcas realistas e endereços web convincentes. Essa democratização do crime coloca ataques sofisticados ao alcance de qualquer pessoa capaz de uma pesquisa elementar. Dave Baggett, SVP de Cibersegurança da Kaseya, observa que a IA elimina os sinais tradicionais de alerta, como erros de ortografia, e permite a criação de e-mails altamente direcionados, utilizando terminologia autêntica para enganar empresas específicas. Quando bem-sucedidos, esses ataques não apenas comprometem um único funcionário, mas podem permitir que o invasor se infiltre em plataformas de nuvem e SaaS que sustentam o comércio global. Não à toa, as perdas com ataques de phishing aumentaram 274% nos últimos anos, segundo o FBI. Esse cenário é alarmante para chefes de TI corporativos e para provedores de serviços gerenciados (MSPs), que precisam proteger clientes menos experientes em detectar ameaças de alta sofisticação.
A Defesa Acompanha a Evolução
Apesar do cenário sombrio, a segurança de e-mail não está desamparada. Assim como os criminosos aprimoram o uso da GenAI, os defensores também desenvolvem soluções contra-ataque baseadas em IA. Enquanto proteções antigas dependiam da detecção de anomalias, agora superadas pela GenAI, as novas soluções focam na análise contextual. Em vez de buscar por erros de digitação, elas modelam a intenção do atacante antes que o dano ocorra. A IA permite analisar padrões sutis que se alinham com a estrutura em camadas das campanhas de phishing modernas, determinando se uma mensagem se conforma aos padrões comportamentais esperados. Essa sofisticação é necessária porque e-mails tecnicamente limpos, sem anexos maliciosos ou links perigosos, ainda podem conter potencial malicioso. Os criminosos modernos frequentemente contornam filtros de segurança automatizados explorando a psicologia humana e a confiança em infraestruturas estabelecidas.
O social engineering, turbinado pela GenAI, torna-se uma arma mais afiada que um payload de malware. Um ataque pode simular um chefe ou colega usando um e-mail simples. A IA pode ser configurada para vasculhar o LinkedIn em busca de pessoas que acabaram de iniciar novos empregos, explorando a vulnerabilidade de novos funcionários em relação a e-mails de superiores desconhecidos. Uma vez estabelecida a confiança, o atacante pode solicitar transferências urgentes, detalhes de folha de pagamento ou senhas, construindo um relacionamento ao longo de vários e-mails para "preparar" a vítima. Filtros tradicionais não detectam essas táticas. "Como os atacantes dependem da manipulação de indivíduos falíveis, a segurança deve apoiá-los no momento em que decisões erradas podem ser tomadas", afirma Baggett. "Uma boa segurança de e-mail substituirá avisos genéricos por contexto fácil de digerir sobre o risco de uma mensagem e aconselhamento sobre a necessidade de verificação adicional." O inbox, antes um canal passivo, agora é uma camada ativa de mitigação de risco.
A Assimetria na Corrida Armamentista
Embora os defensores estejam reagindo, existe uma assimetria considerável entre atacantes e defensores. "Os atacantes podem usar LLMs, basicamente de graça, para criar modelos de phishing perfeitos", explica Baggett. "Por outro lado, se os defensores processarem cada e-mail de entrada através de um modelo LLM de ponta, o custo é cerca de 100 vezes maior. Simplesmente não podemos usar as mesmas ferramentas que os criminosos."
Uma opção para os defensores é usar modelos menores e mais especializados, destilados de modelos maiores. Um modelo compacto pode ser ajustado para o sentimento ou significado de cada frase em um e-mail, detectando tons ameaçadores ou pedidos indevidos. Outra alternativa é processar um subconjunto do e-mail de entrada através de um modelo grande. "Os administradores podem ter uma maneira de executar e-mails específicos através de um LLM de ponta", diz Baggett. "Esse modelo terá sido treinado para entender certos aspectos críticos da segurança de e-mail." Ferramentas pré-LLM, como visão computacional, podem analisar dados visuais. Outras ferramentas auxiliares incluem análise de remetente para verificar a origem e autenticidade, e inspeção de conteúdo vinculado para examinar e-mails sem disparar ameaças.
Existem motivos para otimismo. À medida que a inferência se torna mais inteligente e os modelos melhoram, será possível processar uma porcentagem maior de e-mails através de LLMs em larga escala. Além disso, LLMs podem analisar configurações e controles de ferramentas de segurança existentes, reduzindo a complexidade de uso. "Algumas ferramentas exigem expertise que nossos clientes não possuem", aponta Baggett. "Existem várias coisas que acreditamos que as ferramentas deveriam fazer para ajudar os defensores, por exemplo, reduzir a fadiga de alertas." Os criminosos, por sua vez, podem encontrar novas formas de usar ferramentas aprimoradas, com modelos agentes capazes de planejar e supervisionar ataques em escala no futuro.
Ferramentas Atuais e o Caminho Adiante
Felizmente, os defensores não precisam esperar por desenvolvimentos futuros. Ferramentas como INKY Smart Insights já estão disponíveis para equilibrar as chances e simplificar a investigação de e-mails. Essa solução usa GenAI para reduzir uma investigação manual de minutos para segundos de triagem automatizada, transformando evidências técnicas em um veredicto em linguagem clara e facilitando a criação de relatórios. Em conjunto com Kaseya Intelligence, ela apoia a tomada de decisões em todo o ambiente de segurança. "Smart Insights identificará problemas e fornecerá uma explicação narrativa de seu raciocínio", entusiasma-se Baggett. "Isso será feito de forma não excessivamente técnica, tornando a ferramenta valiosa para quem não tem expertise em segurança de e-mail." MSPs sobrecarregados podem usar o Smart Insights para fornecer informações cruciais aos seus clientes de forma abreviada e digerível, aproveitando a sofisticação dos LLMs sem aumentar os custos operacionais.
A guerra contra o phishing impulsionado por GenAI está longe de ser vencida. No entanto, enquanto os defensores compreenderem o potencial das ferramentas inteligentes à sua disposição, eles terão uma chance real de manter os maus atores à distância e os canais de comunicação essenciais seguros. A batalha continua, exigindo vigilância constante e adaptação tecnológica para mitigar os riscos emergentes na paisagem digital.
Com reportagem de Brazil Valley
Source · The Register
