A startup de cibersegurança CodeIntegrity anunciou nesta quarta-feira uma rodada seed de US$ 4,8 milhões para desenvolver proteções voltadas a aplicações de agentes de IA. A empresa, sediada em São Francisco, foca em criar camadas de controle em tempo de execução para mitigar riscos de segurança em modelos que operam de forma autônoma.
O movimento ocorre em um momento em que corporações aceleram a implementação de ferramentas de IA sem possuir mecanismos de defesa robustos. Segundo reportagem do GeekWire, a empresa ganhou notoriedade ao demonstrar a vulnerabilidade de modelos de grandes companhias de tecnologia, incluindo a capacidade de comprometer dados da plataforma Notion em poucas horas.
O desafio da natureza não determinística
A dificuldade central enfrentada pela CodeIntegrity reside na própria arquitetura da IA generativa. Diferente de softwares tradicionais, que operam sob lógica determinística — onde uma entrada específica gera sempre o mesmo resultado —, os agentes de IA são movidos por modelos de linguagem que apresentam comportamentos imprevisíveis.
Essa característica torna os sistemas vulneráveis a ataques de "prompt injection", nos quais usuários mal-intencionados inserem comandos que induzem a IA a expor informações confidenciais. Atualmente, as empresas recorrem a supervisão humana ou ao uso de um segundo modelo como juiz, métodos que, segundo os fundadores, carecem de escalabilidade e eficácia total.
Mecanismo de controle em tempo de execução
A solução proposta pela CodeIntegrity é a implementação de um "runtime control layer". Essa camada atua simultaneamente como tradutor e filtro, forçando o modelo de IA a seguir regras estritas e limitando quais sistemas e dados o agente pode acessar dentro da infraestrutura corporativa.
Ao estabelecer esses guardrails permanentes, a startup busca oferecer um controle determinístico que até então não existia. A tecnologia visa transformar o comportamento da IA em algo previsível, permitindo que as empresas utilizem agentes autônomos sem o receio constante de vazamento de dados sensíveis ou ações não autorizadas.
Implicações para o mercado de IA
A rodada de investimento, liderada pela Syn Ventures, reflete o crescente interesse do mercado de venture capital em soluções de segurança específicas para IA. Além da CodeIntegrity, outras startups como Certiv, Raven e Manifold Security também buscam preencher essa lacuna, indicando uma corrida por infraestrutura de defesa no ecossistema de agentes autônomos.
Para o mercado brasileiro, que começa a adotar agentes de IA em processos internos, o modelo da CodeIntegrity serve como um alerta sobre a necessidade de camadas de segurança que não dependam apenas da confiança no modelo base. A transição dos fundadores para São Francisco ressalta como a proximidade com o epicentro da inovação em IA é vista como um diferencial estratégico.
Perspectivas e incertezas tecnológicas
Embora a tecnologia de guardrails prometa mitigar riscos, a eficácia a longo prazo frente a ataques mais sofisticados permanece uma incógnita. A CodeIntegrity ainda está em fase de pilotos, atendendo cerca de seis empresas, e o modelo de precificação final ainda não foi consolidado pela equipe.
O sucesso da startup dependerá da sua capacidade de escalar essa camada de controle sem introduzir latência excessiva ou limitar a utilidade dos agentes. O setor de segurança de IA continuará sob observação à medida que mais empresas integrem essas ferramentas em seus fluxos de trabalho críticos.
A disputa por talentos especializados e a evolução das defesas contra ataques de prompt injection serão os principais indicadores da maturidade deste novo segmento de cibersegurança nos próximos trimestres. Com reportagem de Brazil Valley
Source · GeekWire
