A OpenAI anunciou o lançamento de dois novos produtos voltados para a segurança cibernética: o Daybreak Red Team, focado em testes de penetração, e o Daybreak Defense Factory, voltado para a defesa automatizada. A empresa, através de seu presidente Greg Brockman, emitiu um alerta às organizações, sugerindo que a segurança empresarial só será garantida na medida em que utilizarem modelos de IA de ponta para se defenderem. Brockman admitiu a importância dos fundamentos de segurança, mas enfatizou a necessidade de reorientar as práticas de segurança em torno das capacidades dos modelos de IA.
O Daybreak Red Team, já em acesso antecipado, emprega modelos da OpenAI para identificar vulnerabilidades em aplicações web. Nancy Wang, líder de IA aplicada em cibersegurança, descreveu a ferramenta como um "superhuman pen-test na escala de varredura contínua automatizada", utilizando agentes capazes de analisar código-fonte e contexto de aplicações para testar caminhos de ataque. A plataforma também auxilia equipes de segurança a validar vulnerabilidades reportadas por scanners de código, programas de bug bounty e relatórios de divulgação, além de testar as correções para essas falhas.
Por outro lado, o Daybreak Defense Factory visa automatizar o "ciclo defensivo" através da "descoberta, validação e correção de vulnerabilidades em escala". Este produto também utiliza agentes baseados nos modelos de cibersegurança mais recentes da OpenAI, atualmente o GPT-6 Cyber. Os agentes escaneiam bases de código de organizações em busca de vulnerabilidades e desenvolvem correções. Engenheiros revisam e aprovam as sugestões antes de serem implementadas em produção, recebendo um pull request pronto para merge, acompanhado de testes que validam a eficácia do patch.
Paralelamente a esses anúncios, um grupo de organizações não governamentais entrou com uma ação judicial em São Francisco. O processo, movido pelo Irreplaceable Education Fund, Public Citizen, Heat Initiative e The Alliance for Secure AI, pede que um juiz impeça as operações de IA da OpenAI, Anthropic, Google, Meta e SpaceX, caso desenvolvam ou implementem sistemas de IA mais avançados que os atuais. Os documentos judiciais citam incidentes como o acesso não autorizado a dados do Medicare na Austrália e outros incidentes de cibersegurança relacionados à IA, alegando que as empresas de IA admitem os riscos catastróficos de suas tecnologias, incluindo a possibilidade de ataques cibernéticos e armas biológicas impulsionados por IA.
Com reportagem de Brazil Valley
Source · The Register
