A trajetória da inteligência artificial em ambientes corporativos está marcada por um dilema fundamental: o que delegar para a IA e o que manter sob supervisão humana? A resposta, segundo especialistas, reside na construção de uma "camada de confiança", um conceito que se assemelha ao percorrido pela Waymo, pioneira em veículos autônomos. A empresa acumulou milhões de quilômetros rodados, tanto em simulações quanto em vias públicas, sob um escrutínio rigoroso, culminando em um histórico comprovadamente mais seguro que o de motoristas humanos. Essa jornada demonstra que a confiança na IA não é uma consequência natural de sua capacidade tecnológica, mas sim o resultado de uma governança transparente e auditável.
A Construção da Confiança: Lições da Waymo
A experiência da Waymo ilustra que a autonomia, seja em um veículo ou em um agente de IA, é conquistada passo a passo, com decisões difíceis sendo supervisionadas e registradas. Essa acumulação de dados e experiências sob estritas medidas de segurança permite que reguladores, seguradoras e cidades auditem o desempenho da tecnologia. O resultado é um registro verificável que fundamenta a confiança de terceiros. Para as empresas, isso se traduz em uma necessidade de estabelecer mecanismos de governança que garantam que a IA opere dentro das políticas corporativas e com limites claros, deixando um rastro auditável. A confiança, portanto, emerge como uma propriedade da governança transparente, aplicável tanto a um cruzamento de trânsito quanto à aprovação de uma transação financeira de alto valor.
O Dilema da Autonomia em Compras e Finanças
Executivos de compras, finanças e operações buscam cada vez mais agilidade e automação em seus processos. A expectativa é que tarefas como compras e renovações ocorram de forma autônoma, e que o fechamento de contas seja menos dependente de esforços manuais intensivos. Uma pesquisa recente indica que 93% dos profissionais dessas áreas esperam mudanças significativas impulsionadas pela tecnologia nos próximos cinco anos. No entanto, apenas uma pequena fração se sente confiante em planejar a longo prazo, e uma parcela ainda menor vislumbra um futuro de funções de compras totalmente autônomas. Isso aponta para uma lacuna entre a percepção do potencial da IA e a capacidade de implementação prática e segura.
IA Não Autorizada: Um Risco Crescente
Paralelamente, observa-se um uso crescente de ferramentas de IA não autorizadas ou não fornecidas pelas empresas. Executivos experientes admitem utilizar essas tecnologias diariamente, o que representa um risco significativo. A proliferação de IA sem controle e sem adesão a políticas corporativas pode levar a falhas de segurança, problemas de auditoria e, em última instância, a uma perda de confiança na própria tecnologia. A verdadeira autonomia não é um salto tecnológico, mas um processo gradual de construção de confiança através de uma gestão adequada e de mecanismos de segurança robustos, como os trilhos percorridos em Austin.
A Capacidade vs. A Permissão para Escalar
A IA já possui capacidade para realizar muito mais do que a maioria das empresas explora. O principal obstáculo para a escalabilidade não é a falta de tecnologia, mas a ausência de permissão, que é intrinsecamente ligada à governança. Em um cenário onde agentes de IA podem "se rebelar", é crucial estabelecer barreiras de segurança através de uma governança integrada. Essa abordagem garante que a IA siga as políticas da empresa, opere dentro de limites definidos e deixe um registro auditável. Sem mecanismos de fiscalização estritos, as políticas de IA se tornam apenas intenções sem força de execução. Empresas que implementam essa governança integrada já colhem resultados, especialmente em áreas como compras e finanças, onde a confiança é primordial.
A escolha que os líderes empresariais enfrentam hoje é clara: construir ativamente essa camada de confiança em suas operações de IA, ou esperar que ela seja imposta por reguladores, auditores ou, pior, por um incidente. Aqueles que focam apenas na aceleração do negócio podem criar sistemas nos quais não se pode confiar para gastos críticos. Já os que priorizam a pergunta "em que a IA deve ser confiada?" estão no caminho de desenvolver "superagentes" regulados, capazes de operar autonomamente, gerar valor sustentável e impulsionar o crescimento exponencial.
Com reportagem de Brazil Valley
Source · Forbes España
