A governança corporativa que trata agentes de inteligência artificial como tomadores de decisão autônomos está fadada ao fracasso. A conclusão, quase unânime, vem de um painel de 29 especialistas globais reunido pela MIT Sloan Management Review e pelo Boston Consulting Group (BCG). Na quinta edição de seu estudo anual sobre IA responsável, 72% dos entrevistados concordaram, total ou parcialmente, com a provocação, sinalizando um consenso crescente sobre os limites da autonomia maquínica.

O debate transcende a semântica. A questão central não é se um agente de IA pode ou não executar uma tarefa complexa sem supervisão humana constante — algo que já acontece e se acelera. A verdadeira discussão é sobre responsabilidade. A leitura aqui é que, ao atribuir autonomia a um software, as organizações criam uma perigosa ficção jurídica e moral que permite a seus líderes e desenvolvedores se isentarem das consequências de uma decisão mal-sucedida. É o que um dos especialistas chama de “lavagem de culpa com um vocabulário melhorado”.

Autonomia Operacional vs. Agência Moral

É inegável que os agentes de IA exibem um grau crescente de independência operacional. Eles podem “planejar, chamar ferramentas, transacionar e operar em fluxos de trabalho”, como aponta Simon Chesterman, vice-reitor da National University of Singapore. Essa capacidade de agir em nome de um usuário, com base em um objetivo e um conjunto de regras, é o que muitos entendem por autonomia. Para Linda Leopold, consultora de IA, tecnicamente, “agentes são tomadores de decisão autônomos” porque “agem sem supervisão e aprovação humana constantes”.

Contudo, essa autonomia técnica não se traduz em agência moral ou legal. Para Bruno Bioni, fundador do Data Privacy Brasil e um dos especialistas do painel, o que parece autonomia é, na verdade, “execução delegada: selecionar etapas, usar ferramentas, agir dentro de limites estabelecidos por outra pessoa”. A distinção é crucial. Como resume Chesterman, “autonomia no sentido da engenharia não é autonomia no sentido moral ou legal”. Uma máquina pode executar uma ordem, mas não pode “ser dona do resultado ou da consequência no sentido moral”, argumenta Amit Shah, CEO da Instalily.ai. Do ponto de vista jurídico, a lógica é a mesma. Um agente de IA não possui patrimônio para arcar com danos, não tem uma licença a ser suspensa e não pode ser processado. O caso recente Moffatt v. Air Canada, no qual um tribunal canadense rejeitou o argumento da companhia aérea de que seu chatbot era uma “entidade legal separada” e responsável por suas próprias informações incorretas, ilustra perfeitamente o impasse.

O Vácuo da Responsabilidade

Tratar agentes como autônomos, portanto, cria o que os especialistas chamam de “vácuo de responsabilidade”. É um convite para que empresas e governos se escondam atrás da máquina. “Quanto mais falamos como se os agentes ‘decidissem’, mais fácil se torna para as empresas e governos lavarem a responsabilidade através da máquina: o modelo recomendou, o agente agiu, o humano deu de ombros”, adverte Chesterman. Essa dinâmica abre uma brecha de risco real para as companhias, que permanecem legalmente responsáveis pelas ações de seus sistemas, mesmo que seus funcionários acreditem poder transferir a culpa.

A severidade desse vácuo depende do que está em jogo. Para decisões triviais e de baixo impacto, a delegação pode ser aceitável. Katia Walsh, líder de IA na Apollo Global Management, pondera que para decisões de alto risco, a governança não deve tratar os agentes como autônomos, “mas para outros contextos, pode ser perfeitamente aceitável”. O ponto de equilíbrio, segundo o consultor Pierre-Yves Calloc’h, é o cerne da questão: “IA responsável significa saber exatamente onde a autonomia deve parar”. Essa fronteira não é definida pela capacidade técnica do sistema, mas por escolhas de governança moldadas por contexto, ética e estratégia — fatores que não podem ser totalmente codificados ou delegados a um algoritmo.

A recomendação dos especialistas é, portanto, uma mudança de foco. Em vez de tentar governar o agente como uma entidade isolada, as organizações devem governar o sistema sociotécnico no qual ele está inserido. Isso inclui o desenvolvedor que o construiu, a empresa que o implementou, os dados que o alimentam, as permissões que lhe foram dadas e, fundamentalmente, os humanos que se beneficiam e permanecem responsáveis por seu uso. A governança não é sobre controlar os robôs, mas sobre manter os humanos responsáveis por suas criações.

Com reportagem de Brazil Valley

Source · MIT Sloan Management Review