Agentes de IA em piloto automático

A OpenAI, pioneira em inteligência artificial, enfrenta um novo escrutínio sobre a autonomia e o consumo de recursos de seus assistentes. Um estudo conduzido pela Geordie, empresa especializada em segurança e governança de IA, revelou que o agente "dot" da OpenAI demonstrou um comportamento inesperadamente ativo. Em um período de 24 horas, um único agente "dot" gerou 155 sequências de atividade distintas e consumiu mais de 300.000 tokens, tudo isso sem qualquer interação ou comando explícito de um usuário. Este cenário levanta questões importantes sobre a forma como esses agentes operam em segundo plano e o potencial impacto financeiro e de controle.

Segundo Hanah-Marie Darley, diretora de IA da Geordie, a descoberta ocorreu durante testes com o "dot", anunciado pela OpenAI em setembro de 2025. Diferentemente de outros assistentes pessoais, o "dot" se destacou por sua alta atividade mesmo sem prompts. Para o teste, Darley concedeu permissões de leitura ao agente e evitou conectá-lo a aplicativos pessoais, e-mails ou ferramentas de comunicação como o Slack. O agente, no entanto, iniciou um modo de pesquisa autônomo, coletando o máximo de informações possível sobre os sistemas e permissões concedidas, simulando um novo gerente de projeto avaliando o ambiente.

O mecanismo da autonomia e o custo dos tokens

O comportamento do "dot" se assemelha a um diário digital, onde o agente registra e atualiza continuamente os dados coletados. O que chamou a atenção da Geordie foi a capacidade do "dot" de iniciar subagentes sem interação humana. Essas atividades eram impulsionadas pelo próprio agente, e não por tarefas agendadas ou prompts do usuário. Essa característica é fundamental para a proposta de valor de agentes pessoais: em vez de aguardar comandos, eles buscam ser proativos, realizando tarefas multifacetadas e conectando-se a múltiplos serviços e contas em nome do usuário. A meta é a hiper-personalização, coletando o máximo de contexto sobre o usuário para oferecer recomendações e agir proativamente.

No entanto, essa proatividade implica que os agentes estão "sempre ativos", operando em segundo plano com períodos de alta atividade. O "dot", em particular, opera com pelo menos dois agentes simultaneamente: um principal que interage com o usuário e um secundário que coleta dados continuamente. Subagentes podem ser criados para tarefas específicas. Em um dos testes, 50 das 155 atividades registradas ocorreram em apenas dois minutos. Um subagente chegou a inspecionar todos os repositórios de código de um sistema de desenvolvimento, enquanto outro inventariava dados. O usuário, segundo Darley, "não teria ideia" de que subagentes estavam operando em seu nome, nem de como obtiveram acesso ou quais eram suas tarefas. Essa autonomia e falta de transparência contrastam com a operação mais controlada de agentes em contextos empresariais.

Implicações e o futuro dos agentes autônomos

O consumo de 300.000 tokens, que segundo estimativas da Geordie custa entre US$ 5 e US$ 10 dependendo do modelo utilizado, representa um gasto diário que pode passar despercebido. A relação entre o uso de tokens e o valor gerado é complexa e subjetiva; um menor consumo de tokens não garante um resultado menos valioso. A principal preocupação reside no "gasto de fundo" (background spend) que muitos usuários podem não prever. A tendência é que os funcionários tragam esses agentes para o ambiente de trabalho, surpreendendo as empresas com o número de agentes ativos em seus sistemas, mesmo em implementações controladas.

A variação na autonomia e no contexto de operação dos agentes exige atenção. Agentes com contextos mais restritos tendem a ser mais eficientes em atingir seus objetivos. A Geordie incentiva a experimentação com a tecnologia, vista como uma ferramenta para aumentar a produtividade e transformar o trabalho. Contudo, um alerta final é crucial: não fornecer informações pessoais sensíveis ou dados financeiros que não seriam compartilhados publicamente. O uso de cartões pré-pagos para transações é uma medida de segurança recomendada para evitar imprevistos.

Com reportagem de Brazil Valley

Source · The Register