A proliferação de agentes de inteligência artificial (IA) no ambiente corporativo levanta uma questão central para a gestão: quem é o responsável final quando um agente comete um erro? Rick Folgmann, COO da Get Covered, uma empresa de tecnologia de seguros, argumenta que a escalada desses agentes em tarefas críticas exige uma abordagem similar à gestão de funcionários em funções reguladas. Isso implica estabelecer regras claras, definir responsabilidades e, crucialmente, designar um gestor humano responsável pelo desempenho do agente.

Governança e Regras Claras

Folgmann exemplifica com a legislação da Califórnia, que impõe prazos rigorosos para a devolução de depósitos de segurança. Essa regra não faz distinção se a tarefa é executada por um humano ou um software; a responsabilidade recai sobre a empresa. Na Get Covered, que opera 16 agentes de IA em mais de 3 milhões de unidades imobiliárias, a questão de quem reporta a quem foi um desafio técnico secundário frente à necessidade de governança. A Deloitte prevê que 74% das empresas usarão IA generativa de forma moderada em dois anos, mas a Gartner alerta que 40% desses projetos podem ser cancelados. Esses dados sugerem que a falta de uma estrutura de gestão robusta é um gargalo significativo.

A recomendação de Folgmann é começar com tarefas que já possuem um conjunto de regras bem definido, como as estabelecidas por estatutos, cláusulas contratuais ou requisitos de seguros. Um exemplo prático é a gestão de certificados de seguro de fornecedores, uma tarefa que consome tempo e é completamente especificada. Ao automatizar tais processos, as empresas ganham duas vantagens: o agente tem um critério objetivo para verificar seu trabalho, e a equipe pode auditar os resultados sem a subjetividade de julgamentos humanos. Pesquisas da McKinsey indicam que as poucas empresas obtendo retornos substanciais de IA (cerca de 6%) redesenharam fundamentalmente seus fluxos de trabalho, o que, na visão de Folgmann, começa com a documentação explícita das regras.

Autonomia Adaptável e Supervisão Humana

A autonomia de um agente de IA não é uma propriedade fixa, mas sim configurável e dependente do risco associado à tarefa. Na Get Covered, um agente pode enviar automaticamente um lembrete de expiração de certificado de seguro, mas nunca responderá a um pedido de animal de suporte emocional sem intervenção humana. A chave para determinar o nível de autonomia é avaliar o tempo e o custo para detectar um erro. Quanto mais rápida a detecção e menor o custo do erro, maior a margem de manobra para o agente.

Um ponto crucial é a designação de um proprietário humano para cada agente. Folgmann aprendeu em sua carreira que explicações como "o modelo fez isso" são inaceitáveis para clientes ou reguladores. Cada agente deve ter uma pessoa fisicamente responsável por revisar seu log de erros, decidir sobre a expansão ou restrição de sua autonomia e responder por suas ações. Essa supervisão também evita o problema de agentes independentes de diferentes equipes se contradizendo sem que ninguém perceba, garantindo uma visão unificada e evitando conflitos operacionais.

Implicações e Futuro da Gestão de IA

A evolução contínua dos modelos de IA é inevitável, mas a clareza sobre quem decide o quê nas empresas não se aprimora automaticamente. A previsão da Gartner de cancelamento de projetos de IA aponta para falhas na definição de valor e controle de risco, que são problemas gerenciais. Para navegar no cenário de IA em 2027, a abordagem recomendada é tratar cada agente como um novo funcionário em um cargo regulado: documentar suas regras, limitar seu escopo e atribuir um gerente que supervisione seu trabalho e discuta seu desempenho.

Empresas que adotarem essa governança terão a base de evidências necessária para conceder mais responsabilidades aos agentes ao longo do tempo. Aquelas que negligenciarem essa estrutura correm o risco de gastar o próximo ano explicando por que seus softwares executaram ações não autorizadas ou prejudiciais. A gestão eficaz de agentes de IA, portanto, reside menos na tecnologia em si e mais na aplicação de princípios de gestão sólidos e responsabilidade humana.

Com reportagem de Brazil Valley

Source · Crunchbase News