Uma nova pesquisa indica um comportamento paradoxal no mundo corporativo: empresas que já tiveram problemas com sistemas de inteligência artificial estão, na verdade, acelerando a remoção de supervisão humana dos seus processos. Segundo reportagem da VentureBeat, quase metade (49%) das empresas consultadas relatou que um sistema de IA aprovado em testes internos acabou gerando um problema visível para clientes.
Contrariando a lógica de que um erro levaria a mais cautela, a tendência observada é uma aposta ainda maior na automação. O movimento sugere um crescente descompasso entre a confiança depositada em ferramentas de avaliação automatizada e a sua real capacidade de prevenir falhas em ambientes de produção, levantando questões sobre a estratégia de risco das companhias na era da IA generativa.
Confiança em alta, resultados estagnados
Os dados, coletados em julho junto a 108 executivos, mostram que a taxa de incidentes permaneceu praticamente inalterada em relação ao mês anterior. Mesmo assim, a confiança em avaliações puramente automatizadas cresceu. O estudo revela uma clivagem importante: a fé na automação é significativamente maior entre empresas que ainda não enfrentaram um incidente. Das que não tiveram falhas, 24% expressaram confiança total nos testes automáticos; entre as que já foram "queimadas", apenas 4% compartilham do mesmo sentimento.
A aparente contradição de acelerar a automação após uma falha pode ser interpretada como uma aposta de que a solução não é mais intervenção humana — vista como lenta e cara —, mas sim uma automação de monitoramento mais sofisticada. A leitura é que, para essas empresas, o problema não é a automação em si, mas a qualidade e o escopo das ferramentas de avaliação usadas até agora.
O declínio das avaliações tradicionais
Especialistas do setor apontam para uma mudança de paradigma. Ben Hylak, CTO da plataforma de monitoramento Raindrop.ai, afirmou à VentureBeat que estamos vendo o "grande declínio das avaliações como as conhecemos". A lógica é que, com a crescente complexidade dos sistemas de IA, com múltiplos agentes e sub-rotinas, torna-se impossível prever todos os cenários de falha em um ambiente de teste controlado.
Em vez de tentar garantir a perfeição antes do lançamento, a estratégia estaria migrando para a detecção de anomalias e a mitigação de problemas em tempo real, já em produção. É uma troca de foco: da prevenção para a resiliência. Essa abordagem pragmática aceita a inevitabilidade de algumas falhas, mas investe em sistemas capazes de identificá-las e corrigi-las com agilidade, antes que causem danos maiores.
É importante notar que a própria VentureBeat classifica os achados como direcionais, e não como um censo de mercado, dadas as limitações da amostra. Ainda assim, o movimento sinaliza uma mudança tática relevante. As empresas parecem estar concluindo que o gargalo humano na supervisão é um obstáculo maior à escala do que o risco de uma falha automatizada. A questão que fica é se essa aposta na resiliência automatizada se provará mais eficaz do que a prudência da supervisão humana.
Com reportagem de Brazil Valley
Source · VentureBeat
