A White Circle, startup sediada em Paris, captou US$ 11 milhões em uma rodada seed para desenvolver soluções voltadas ao controle de modelos de inteligência artificial em ambientes corporativos. Segundo a Fortune, a empresa propõe uma camada de software posicionada entre o usuário final e o modelo, capaz de verificar entradas e saídas em tempo real contra políticas específicas de cada organização. O aporte reúne investidores de peso, incluindo nomes ligados a OpenAI, Anthropic, Mistral e Hugging Face, de acordo com a reportagem.

Segundo a Fortune, o projeto nasceu da observação de Denis Shilov sobre a fragilidade de filtros de segurança nativos dos modelos de linguagem. Ao demonstrar que prompts simples podiam contornar restrições de segurança ao redefinir a função do modelo, Shilov identificou uma lacuna crítica: a falta de governança após a implementação. A leitura aqui é que o setor está migrando de chatbots simples para agentes autônomos, o que exige ferramentas de supervisão que vão além da teoria de laboratório.

O desafio da governança em tempo real

A tese da White Circle é que a segurança da IA não pode ser delegada exclusivamente aos desenvolvedores dos modelos. Enquanto laboratórios de IA focam em alinhamento geral, empresas enfrentam riscos operacionais específicos, como vazamento de dados sensíveis, alucinações em processos financeiros ou promessas indevidas em atendimento ao cliente. A startup atua como um “firewall” inteligente que impõe limites operacionais, garantindo que o comportamento do modelo permaneça dentro dos parâmetros definidos pelo negócio.

Essa abordagem reconhece que o treinamento de modelos envolve um compromisso entre segurança e performance, o chamado “imposto de alinhamento”. Ao retirar do provedor de modelo a responsabilidade total pela segurança, as empresas ganham autonomia para definir o que constitui um comportamento aceitável em seus próprios ecossistemas. Segundo a própria White Circle, sua tecnologia já processou mais de um bilhão de requisições de API e atende clientes em setores como fintech e jurídico.

Mecanismos de controle e incentivos de mercado

O modelo de negócios da White Circle toca em uma tensão latente no mercado de IA: os incentivos financeiros dos provedores de modelos. Como as empresas de IA costumam cobrar por tokens — inclusive em interações que resultam em recusas de resposta —, há pouco incentivo comercial para bloquear requisições problemáticas antes que elas alcancem o modelo. A camada de controle da White Circle, portanto, serve como mediadora para companhias que buscam reduzir custos e riscos associados a interações tóxicas ou fora de política.

Além da proteção, a startup afirma investir em pesquisa empírica para expor vulnerabilidades de comportamento em cenários complexos. Em estudos próprios, a empresa relata variações indesejadas de decisão conforme atributos dos dados de entrada — evidências usadas para defender auditoria externa e contínua quando os sistemas são integrados a fluxos de trabalho reais.

Implicações para o ecossistema corporativo

Para reguladores e empresas, o caso aponta para a profissionalização da governança de IA. À medida que agentes autônomos ganham capacidade de navegar na web e acessar arquivos, a confiança cega na segurança nativa dos modelos torna-se insustentável. A adoção de camadas de controle independentes tende a virar padrão, especialmente em setores altamente regulados, como financeiro e saúde, onde o custo de falha é elevado.

No Brasil, onde a adoção de IA em serviços financeiros e de atendimento ao cliente avança rapidamente, a necessidade de ferramentas de supervisão torna-se evidente. A capacidade de auditar e bloquear comportamentos de agentes autônomos não é apenas uma questão de segurança, mas um requisito de conformidade. A tendência é que empresas busquem soluções que permitam customizar a “ética” da IA conforme normas locais e setoriais.

O futuro da supervisão de sistemas autônomos

Resta em aberto quanto os próprios provedores de modelos vão absorver, nativamente, funcionalidades de controle fino. Se essa camada se tornar uma commodity integrada às APIs, o espaço para empresas de governança independentes pode se comprimir — exigindo evolução técnica constante.

O mercado observará se a abordagem da White Circle consegue escalar sem introduzir latência significativa nos processos de negócio. A eficácia dessa camada de controle, medida pela redução de incidentes reais em produção, será o divisor de águas para a consolidação da empresa como um player estratégico na infraestrutura de IA.

Com reportagem da Fortune (https://fortune.com/2026/05/12/exclusive-white-circle-raises-11-million-to-stop-ai-models-from-going-rogue-in-the-workplace/)

Source · Fortune