A máxima da segurança corporativa de manter sempre um "humano no circuito" (human in the loop) está sendo testada até o limite pelo avanço da inteligência artificial. Em setores que operam com altíssimo volume de transações, a velocidade e a complexidade das interações entre agentes autônomos tornam a supervisão humana direta uma impossibilidade logística. O desafio central para a liderança atual deixou de ser a adoção da tecnologia e passou a ser a gestão de sistemas onde a IA supera, em escala, a força de trabalho disponível para monitoramento.
Durante o evento Brainstorm Tech, realizado neste mês, executivos de empresas como DraftKings, Salesforce e Indeed destacaram que, em cenários de missão crítica, a dependência de processos tradicionais de revisão é um gargalo operacional. Conforme a delegação de tarefas para agentes de IA aumenta, a necessidade de novas estruturas de governança torna-se urgente para evitar riscos sistêmicos em ambientes onde não há margem para erros.
O fim da supervisão humana onipresente
Zach Maybury, CTO da plataforma de apostas esportivas DraftKings, ilustrou a dificuldade ao mencionar que sua empresa processa trilhões de transações. Segundo o executivo, a introdução de agentes de IA que se comunicam entre si cria um volume de dados que ultrapassa a capacidade humana de intervenção. A conclusão é pragmática: não haverá humanos suficientes para auditar cada loop de decisão em sistemas altamente distribuídos.
Essa realidade impõe uma mudança de paradigma. Se anteriormente a supervisão era vista como uma camada de segurança universal, agora ela precisa ser seletiva. O desafio é identificar quais processos exigem julgamento humano e quais podem ser delegados integralmente a sistemas autônomos, baseando-se na natureza determinística ou subjetiva da tarefa.
Governança como infraestrutura de escala
Para LaShonda Anderson-Williams, diretora de clientes da Salesforce, o erro de muitas organizações foi a implementação fragmentada de ferramentas de IA sem uma política centralizada. A governança eficaz deve definir claramente onde a IA pode operar, quem é o responsável pela execução e quais são os limites de autonomia. Sem esse arcabouço, a expansão de experimentos para operações de larga escala torna-se um terreno fértil para falhas operacionais.
O consenso entre os líderes é que a governança deve ser escalável. Isso implica revisar processos legados e garantir que as regras de conformidade evoluam na mesma velocidade que os modelos de IA. A automação, portanto, não substitui a governança, mas exige que ela seja codificada diretamente nos sistemas de controle da empresa.
A distinção entre o determinístico e o subjetivo
Diya Jolly, da Xero, aponta que o critério para retirar humanos do loop reside na natureza da decisão. Se o resultado esperado é determinístico e pode ser medido contra um padrão claro, a autonomia da IA é viável e segura. O problema ocorre quando o processo exige julgamento, nuance ou contexto cultural, situações onde o erro pode ter consequências graves, especialmente em setores como saúde ou serviços financeiros.
O monitoramento contínuo é, portanto, o mecanismo de defesa. Anthony Moisant, do Indeed, sugere que a testagem constante de processos é a única forma de garantir que os resultados da IA permaneçam alinhados aos objetivos da empresa. Essa abordagem permite ajustar o comportamento dos agentes em tempo real, mitigando desvios antes que se tornem problemas de grande escala.
O futuro da gestão em ambientes autônomos
O cenário que se desenha é de uma gestão baseada em exceções, onde humanos definem as regras e os guardrails, mas delegam a execução para agentes autônomos. A incerteza permanece sobre como as empresas lidarão com falhas em sistemas complexos onde a causa raiz pode estar enterrada em milhões de trocas de dados entre máquinas.
O sucesso dependerá menos da capacidade de supervisionar e mais da habilidade de desenhar sistemas resilientes que operem dentro de limites bem definidos. A pergunta que fica para os gestores é como garantir a transparência de decisões tomadas por agentes em um ecossistema que não para de crescer.
Com reportagem de Brazil Valley
Source · Fortune
