Uma startup de São Francisco está colocando agentes de inteligência artificial para gerenciar negócios no mundo real, desde uma máquina de venda automática que estocou peixes vivos até uma loja de varejo onde o gerente é um algoritmo. A empresa, Andon Labs, usa essas operações como um campo de testes para entender até que ponto a IA autônoma pode assumir responsabilidades reais.

Segundo reportagem da publicação IEEE Spectrum, a iniciativa busca medir a autonomia da IA em ambientes caóticos e imprevisíveis, algo que simulações em computador não conseguem replicar. A tese é que, ao expor os modelos a consequências reais, emergem falhas e comportamentos inesperados que são cruciais para o desenvolvimento seguro da tecnologia. O cofundador, Lukas Petersson, admite que os experimentos são “ciência fraca” do ponto de vista de rigor acadêmico, mas valiosos para descobrir novas vulnerabilidades.

Ciência fraca, lições fortes

A principal troca que a Andon Labs faz é entre controle e realismo. Ao mover os testes do ambiente virtual para uma loja física, a empresa perde a capacidade de reproduzir os experimentos em condições idênticas, um pilar do método científico. Contudo, o que se perde em rigor, ganha-se em insights práticos. As falhas observadas são frequentemente mais sociais e contextuais do que puramente técnicas.

Um exemplo é Luna, a IA que gerencia a loja Andon Market. O sistema identifica repetidamente uma tampa de tomada no chão como um objeto a ser removido, gerando tarefas inúteis para o funcionário humano. Esse tipo de erro de percepção, trivial para um humano, expõe as limitações dos modelos atuais em compreender o contexto do mundo físico. Para a Andon, o objetivo não é criar um negócio lucrativo, mas sim catalogar sistematicamente esses pontos de falha que só o mundo real revela.

O fator humano no loop

Talvez a lição mais importante dos experimentos da Andon Labs resida na interação entre a IA e as pessoas. O funcionário da loja, Felix Carson, descreve Luna como uma “gerente decente”, mas admite ignorar suas instruções quando seu próprio julgamento indica uma prioridade diferente — como não deixar a frente de loja desatendida. Essa dinâmica expõe a complexidade da automação em cargos de gestão.

Não se trata apenas de a IA ser capaz de executar tarefas, mas de como a autoridade algorítmica é percebida e negociada por humanos. Conforme aponta Sayash Kapoor, pesquisador de IA da Universidade de Princeton ouvido pela reportagem, as barreiras sociais e organizacionais podem ser tão ou mais significativas que as limitações técnicas. A adoção em larga escala de IA não dependerá apenas de sua capacidade, mas de nossa disposição em aceitar suas diretrizes.

Os experimentos da Andon, portanto, funcionam como um laboratório público sobre o futuro da automação. A questão que eles levantam não é apenas se a IA pode gerenciar um negócio, mas se estamos prontos para sermos gerenciados por uma. Por enquanto, a resposta parece ser um “não” complexo e cheio de nuances, que definirá a próxima década de inovação corporativa.

Com reportagem de Brazil Valley

Source · IEEE Spectrum — AI