A Fireworks AI, empresa especializada em infraestrutura para treinamento e execução de modelos de inteligência artificial, revelou um segundo incidente de segurança em outubro, que ampliou a exposição de dados de seus clientes. A violação, que ocorreu em 23 de outubro, envolveu o comprometimento de máquinas de pesquisa e desenvolvimento hospedadas por um provedor de nuvem terceirizado. No dia seguinte, os atacantes exploraram esse acesso para invadir os sistemas de desenvolvimento da Fireworks e executar cargas de trabalho não autorizadas.
Ataques e Dados Expostos
A empresa suspeita que os responsáveis sejam criminosos motivados financeiramente, envolvidos em ataques conhecidos como LLMJacking. Essa modalidade criminosa visa vender acesso não autorizado a modelos de IA por meio de gateways ilícitos. Os dados expostos foram categorizados em três grupos: metadados de recursos (identificadores, nomes de exibição, descrições), informações de faturamento (endereços de cobrança e envio, históricos de pagamento, saldos de conta, uso de crédito) e pesos de modelos e conjuntos de dados. Para alguns clientes, uma parcela de pesos de modelos incompletos e conjuntos de dados foi acessada. Lin Qiao, cofundador e CEO da Fireworks, minimizou a preocupação com o roubo de pesos de modelos, afirmando que a maioria dos downloads foram parciais e interrompidos. Contudo, o CEO da Notion, que utiliza a Fireworks, relatou que algumas sessões de chat com a IA da Notion podem ter sido expostas.
Responsabilidades e Vulnerabilidades
O incidente levanta sérias questões sobre a responsabilidade na cadeia de suprimentos de IA. A dependência de provedores de nuvem terceirizados introduz um ponto de falha que pode ter consequências significativas para as empresas que confiam nesses serviços. No caso da Fireworks, a exploração de um ponto vulnerável em um parceiro resultou na exposição de dados sensíveis de clientes, incluindo informações financeiras e, potencialmente, propriedade intelectual sob a forma de pesos de modelos. A natureza do ataque LLMJacking sugere um cenário onde os criminosos buscam monetizar o acesso à infraestrutura de IA, seja vendendo o acesso a terceiros ou explorando os recursos computacionais para mineração de criptomoedas, por exemplo.
Implicações para o Ecossistema de IA
A segurança de dados em empresas de IA tornou-se uma preocupação crítica, especialmente à medida que essas companhias lidam com informações cada vez mais sensíveis e valiosas. A exposição dos dados da Fireworks pode ter implicações para a confiança dos clientes em plataformas de IA, bem como para a integridade dos modelos desenvolvidos. A empresa já havia relatado um incidente em 9 de outubro, onde credenciais internas foram usadas indevidamente. Naquela ocasião, a Fireworks afirmou não haver evidências de acesso a modelos, conjuntos de dados ou informações pessoais. A atualização de segunda-feira, no entanto, amplia substancialmente o impacto divulgado, afetando dados de faturamento e partes de modelos.
Perguntas em Aberto
O número exato de clientes afetados por ambos os ataques em outubro não foi divulgado. A Fireworks informou que trabalhou com a equipe Unit 42 da Palo Alto Networks para remediar o ataque, incluindo a rotação de credenciais e o isolamento de sistemas afetados. Resta saber a extensão total do dano e se medidas de segurança mais robustas, tanto por parte da Fireworks quanto de seus provedores de nuvem, serão implementadas para prevenir futuras ocorrências. A confiança no ecossistema de IA depende intrinsecamente da capacidade das empresas de protegerem os dados de seus clientes e a integridade de suas próprias operações.
Com reportagem de Brazil Valley
Source · The Register
