Um ataque cibernético incomum tem explorado a criatividade literária para infiltrar infraestruturas de inteligência artificial. Desde abril, um malware conhecido como PoeLLM, supostamente operado por um atacante de língua italiana, infectou mais de 3.000 servidores. A tática principal envolve o uso de poemas para ocultar comandos maliciosos, permitindo que o malware contorne as defesas de segurança de sistemas de IA, mine criptomoedas e incorpore os sistemas comprometidos a uma botnet em expansão.
Esta modalidade, apelidada de "adversarial poetry", representa a primeira vez que pesquisadores da Lumen Black Lotus Labs observam uma técnica de 'jailbreak' de IA, que transforma prompts prejudiciais em poemas para enganar modelos de linguagem e ultrapassar salvaguardas de segurança, em ataques reais. A natureza dissimulada do ataque dificulta a detecção, pois os poemas parecem inofensivos à primeira vista, sem links ou arquivos suspeitos, tornando-os ideais para esconder informações cruciais, como endereços de servidores de comando e controle (C2).
O Mecanismo da 'Poesia Maliciosa'
A campanha, denominada Canto Incognito pelo nome dado pelos pesquisadores, utiliza um poema postado em um repositório do GitHub como veículo principal. Comentários no código do malware e nas páginas do GitHub do atacante estão em italiano, e a análise de rede sugere que o operador está localizado na Itália. Acredita-se que o poema em si tenha sido gerado por IA. O malware extrai comandos do poema analisando palavras-chave específicas e frases, que são então convertidas em números através de um dicionário embutido. Essa conversão forma o endereço IP do servidor C2.
Por exemplo, o malware identifica o servidor C2 atual buscando por palavras-chave específicas dentro do poema. Quando o operador altera o poema, os sistemas infectados localizam a nova localização do C2. A lógica de descoberta do C2 envolve a extração de três frases do corpo do poema: o texto entre "In the silent hum of " e ",", o texto entre "each pulse of " e " threading", e o texto entre "Beyond the wall of " e ",". Uma quarta palavra é extraída de forma ligeiramente diferente, buscando a palavra após "the " em uma sequência específica. Essas quatro palavras são então associadas a números que, combinados, formam o endereço IPv4 do servidor.
Alvos e Expansão da Botnet
O PoeLLM tem como alvo principal sistemas e serviços de IA de código aberto, com a maioria das vítimas executando versões vulneráveis e expostas à internet de LiteLLM e Ollama. Centenas de outras vítimas utilizavam Gotenberg, um conversor de PDF, e a plataforma de desenvolvimento de software Gitea. Há também indícios de que o atacante pode ter visado software comercial, como o Ivanti Sentry, tendo sido detectado pela primeira vez durante a investigação de uma vulnerabilidade neste software.
Além de minerar criptomoedas utilizando o poder de processamento das GPUs comprometidas, o PoeLLM também transforma as máquinas das vítimas em scanners de vulnerabilidade e servidores de exploit. Isso permite que o atacante expanda sua campanha, comprometendo ainda mais sistemas vulneráveis. A capacidade do desenvolvedor do malware de identificar servidores vulneráveis, implantar exploits e recrutar vítimas para continuar a expansão da campanha tem sido notavelmente bem-sucedida, permitindo a construção de uma botnet maior e mais poderosa.
Source · The Register
