A capacidade de modelos avançados de inteligência artificial (IA) em identificar vulnerabilidades de segurança tem gerado preocupação sobre um possível aumento na exploração de falhas recém-descobertas. No entanto, dados recentes sobre as vulnerabilidades ligadas à Anthropic e ao seu Projeto Glasswing sugerem um cenário menos alarmante. Segundo Patrick Garrity, pesquisador da VulnCheck, menos de 0,5% das 225 vulnerabilidades rastreadas, atribuídas à equipe da Anthropic ou ao programa Glasswing, foram de fato exploradas em ataques reais.

O Projeto Glasswing é uma iniciativa da Anthropic que concede acesso restrito ao seu modelo Claude Mythos Preview a parceiros selecionados. A empresa justificou o acesso limitado pela capacidade do modelo em encontrar e explorar falhas de segurança, que superaria até mesmo a de especialistas humanos. Esses parceiros utilizam o modelo para trabalhos de segurança defensiva, focando na identificação e correção de falhas em seus próprios softwares e dependências de código aberto. O rastreador de CVEs (Common Vulnerabilities and Exposures) de Garrity monitora essas vulnerabilidades e as compara com o índice de falhas exploradas conhecidas para avaliar o "fator de perigo" real do Glasswing.

O Mecanismo por Trás da Baixa Exploração

A análise de Garrity revela que, embora a IA possa ser eficaz na descoberta de falhas, a exploração delas por atores maliciosos é uma questão distinta. "Há uma grande diferença entre encontrar vulnerabilidades e se elas são realmente úteis e serão usadas por atores de ameaças", explicou Garrity ao The Register. A maioria das falhas descobertas pela Anthropic, segundo ele, tem impacto limitado e não difere significativamente das vulnerabilidades encontradas por outros meios. Isso sugere que a capacidade de um modelo de IA em identificar uma falha não garante sua exploração no mundo real, que envolve fatores como complexidade de exploração, valor para o atacante e a existência de patches.

Histeria vs. Realidade na Descoberta de Vulnerabilidades

Embora a IA esteja, de fato, trazendo à tona um número significativamente maior de falhas de segurança, como evidenciado por recentes atualizações massivas de segurança da Microsoft, Apple e outras empresas, a histeria em torno da exploração imediata dessas falhas pode ser exagerada. Garrity ressalta que a capacidade de encontrar bugs não é exclusiva de um único modelo de IA. Ele observa que uma pequena fração das vulnerabilidades descobertas é, historicamente, utilizada em campanhas de exploração, algo que varia entre 1% e 2%. A proliferação de ferramentas de IA para caçar bugs pode ter reduzido a barreira para a descoberta, mas não alterou fundamentalmente a dinâmica de quais falhas se tornam alvos de exploração.

A Lacuna na Correção e o Papel Humano

Um ponto crucial que emerge da análise é que, apesar da proficiência das IAs em encontrar falhas, elas ainda enfrentam desafios na correção eficaz. Estudos recentes, como um da 1Password analisando correções geradas por modelos da OpenAI e Anthropic, indicam que apenas 26% das correções geradas por IA resolveram completamente a vulnerabilidade. Cerca de 54% falharam em resolver a falha, introduziram novas vulnerabilidades ou ambos. Outra pesquisa da Veracode mostrou uma taxa de aprovação de segurança de apenas 56% para código gerado por IA. Isso reforça a necessidade contínua de intervenção humana em todo o ciclo de vida da segurança, desde a coordenação e triagem até a remediação e implantação de patches.

A descoberta de vulnerabilidades pode ter se tornado mais acessível com a IA, mas o trabalho mais complexo de gerenciar e corrigir essas falhas ainda é intensivo em mão de obra. A própria Anthropic, ao que parece, pode não ter percebido completamente essa dependência humana até após o lançamento de seu programa Glasswing. A análise de Garrity sugere que o impacto prático das descobertas da IA, no que diz respeito à segurança cibernética, ainda está em evolução e longe de representar uma revolução imediata na forma como os ataques são realizados.

Com reportagem de Brazil Valley

Source · The Register