À medida que empresas concedem mais autonomia a agentes de inteligência artificial — a capacidade de planejar, decidir e agir sem aprovação humana a cada passo —, uma questão fundamental domina a arquitetura de sistemas: o que de fato impede um agente de executar uma ação não autorizada?

A resposta tradicional, de aplicar barreiras de proteção e políticas em torno do modelo de IA, se mostra estruturalmente falha. A governança que depende de prever o comportamento de um agente autônomo é inerentemente instável. A análise é que a solução não está em tentar controlar o agente, mas sim o ambiente onde ele opera. A governança precisa ser executável e residir na camada de dados.

Do modelo para os dados

O instinto de criar regras no nível do agente falha porque o contexto é tudo. Uma instrução como "nunca abra a porta do carro" é inútil se o carro estiver em chamas. Agentes autônomos, que operam em milissegundos, não podem depender de uma revisão humana ou de políticas abstratas. Segundo uma análise aprofundada da VentureBeat, o ponto de execução e fiscalização deve ser a camada operacional de dados.

O valor de um agente de IA reside em sua capacidade de interagir com dados — consultá-los, transformá-los e agir sobre eles. Portanto, a política de segurança mais eficaz é aquela que o próprio banco de dados pode aplicar no momento da requisição. A governança deixa de ser uma promessa do agente e passa a ser uma propriedade do sistema. Na prática, isso envolve tratar o agente como uma identidade própria, com um "propósito declarado" no início de cada sessão. "O propósito declarado se torna um atributo que a camada de acesso já entende", afirma Priyanka Jain, vice-presidente de gestão de produtos de dados e IA da EDB, na reportagem.

Isso não exige a criação de mecanismos de controle inteiramente novos. As ferramentas que as empresas já utilizam na camada de dados — controle de acesso baseado em função e atributo (RBAC/ABAC), segurança em nível de linha e coluna, mascaramento de dados e trilhas de auditoria — são as mesmas. A mudança fundamental é que essas ferramentas agora precisam reconhecer o agente como um usuário, com identidade e propósito próprios. A governança pode não ser probabilística, mesmo que o comportamento do agente seja. O controle efetivo não está em esperar que o agente siga as regras, mas em construir um ambiente onde ele não possa quebrá-las.

Com reportagem de Brazil Valley

Source · VentureBeat