A nova geração de modelos de IA, apelidados de "sistemas agentivos", pode descobrir e explorar falhas de segurança em uma velocidade muito superior à de hackers humanos. O avanço, que inclui modelos como o Mythos da Anthropic e futuras versões do GPT da OpenAI, é tão significativo que o governo americano já considera limitar ou pausar seu lançamento público.

A questão, segundo uma reportagem da Fast Company, é se as defesas estão à altura da ameaça. A preocupação é amplificada por cortes orçamentários e de pessoal em agências críticas como a CISA (Agência de Cibersegurança e Infraestrutura), levantando dúvidas sobre a resiliência dos sistemas governamentais em um cenário de rápida evolução tecnológica.

A responsabilidade dividida

O principal temor de ex-funcionários do governo ouvidos pela reportagem não são apenas ataques sofisticados, mas a escala de "ataques de varejo". Campanhas de spear-phishing ou a busca por falhas em autenticação de múltiplos fatores, antes limitadas pelo tempo e habilidade humana, podem ser automatizadas em massa. A IA, como disse um ex-CIO federal, "remove as restrições de habilidade e tempo".

O desafio é agravado pela estrutura de TI do governo, que depende massivamente de provedores comerciais de nuvem como Amazon Web Services, Google e Microsoft. Embora programas como o FedRAMP estabeleçam padrões, a responsabilidade pela configuração e manutenção da segurança é diluída. Um provedor entrega a plataforma, mas a agência que a utiliza pode introduzir vulnerabilidades. Como aponta um ex-especialista da Casa Branca, "ninguém é contratualmente responsável pela postura de segurança contínua".

A corrida armamentista da cibersegurança entra em uma nova fase. A ironia, apontada por um ex-oficial do Departamento de Segurança Interna, é que a melhor defesa contra a IA ofensiva é a IA defensiva. Agências que não adotarem ferramentas de IA para monitorar e proteger suas próprias redes não estão apenas se expondo a um novo tipo de ataque; estão ficando para trás em uma disputa onde a velocidade de resposta é tudo. O debate não é mais se a IA será usada para atacar, mas quem a usará melhor para se defender.

Com reportagem de Brazil Valley

Source · Fast Company