A WhiteMatter, startup fundada em 2024 e anteriormente conhecida como QuilrAI, anunciou o levantamento de US$20 milhões em sua rodada Série A. A empresa aposta em uma abordagem inovadora para a segurança de inteligência artificial: usar mais agentes de IA para controlar e supervisionar os agentes já existentes em empresas. A visão da WhiteMatter é que, à medida que organizações adotam cada vez mais agentes de IA para realizar tarefas complexas, a necessidade de mecanismos de controle e segurança robustos se torna imperativa.
A proposta da WhiteMatter consiste em criar "agentes guardiões" para cada agente de IA implementado em uma empresa. Esses agentes guardiões atuam como supervisores, verificando e aprovando cada ação que um agente de IA original pretende executar. Isso inclui desde o acesso a arquivos e o uso de softwares até a tomada de decisões e a execução de ações automatizadas. A ideia é garantir que os agentes de IA operem estritamente dentro dos limites permitidos e de acordo com as políticas da empresa, prevenindo comportamentos indesejados ou maliciosos, sejam eles externos ou internos.
O Mecanismo de Controle com Agentes Guardiões
A arquitetura proposta pela WhiteMatter visa resolver um problema emergente: a crescente autonomia e capacidade de ação dos agentes de IA, que podem se tornar vetores de risco se não forem devidamente monitorados. A startup descreve um cenário onde a infraestrutura tecnológica atual não foi projetada para lidar com agentes como atores principais. Em resposta, a WhiteMatter desenvolveu um sistema onde um "agente guardião" é gerado automaticamente para cada novo agente de IA que uma empresa implementa. Esse guardião monitora as permissões de acesso, as ações realizadas e os resultados obtidos pelo agente supervisionado. A escalabilidade automática garante que a segurança acompanhe o crescimento da adoção de IA na organização.
A Necessidade de Segurança em um Mundo de Agentes Autônomos
O CEO da WhiteMatter, Vidit Arora, destaca que a empresa está apenas "na ponta do iceberg" em relação a ataques e comprometimentos de agentes, que podem vir tanto de fontes externas quanto internas. A crescente concessão de acesso a agentes de IA por parte de funcionários não técnicos, mas capazes de executar tarefas significativas, intensifica a urgência no campo da cibersegurança. Incidentes recentes impulsionados por agentes de IA têm injetado nova vida no setor, atraindo a atenção de outras startups que buscam capitalizar essa oportunidade. Empresas como Prompt Security, Lakera e Protect AI são citadas como concorrentes no espaço de segurança de agentes.
Implicações para o Mercado e Clientes
A WhiteMatter opera em um mercado em rápida expansão, com clientes que incluem empresas Fortune 200 e Fortune 500, como a gestora de ativos Alter Domus. A empresa afirma ter mais de 2,25 milhões de agentes sob sua gestão e ter supervisionado mais de 116 bilhões de interações de IA. O modelo de negócio, baseado em uma métrica semelhante a "agentes sob gestão" (AUM), prevê crescimento orgânico à medida que os clientes expandem seu uso de agentes de IA. O capital levantado será prioritariamente destinado a expandir as equipes de vendas e marketing, além de reforçar o time de pesquisa, com planos de aumentar a equipe atual de 80 pessoas em 50% nos próximos 12 meses.
Perguntas em Aberto e o Futuro da Segurança de IA
A abordagem da WhiteMatter levanta questões importantes sobre a complexidade e a escalabilidade da segurança em um ecossistema de IA cada vez mais interconectado e autônomo. Embora a solução ofereça um mecanismo de controle promissor, o monitoramento contínuo e a adaptação a novas ameaças e tipos de agentes de IA serão cruciais. A capacidade de manter a eficiência e a segurança à medida que o número de agentes e interações cresce exponencialmente definirá o sucesso a longo prazo da startup e de seu modelo de "agentes guardiões".
A WhiteMatter busca, com seu investimento, solidificar sua posição como líder em segurança para a era dos agentes de IA. A estratégia de usar IA para governar IA é um reflexo da própria evolução tecnológica, onde as soluções precisam acompanhar a velocidade e a sofisticação das ameaças emergentes. Com reportagem de Brazil Valley
Source · Business Insider
