Neste semestre, a Meta tentou acelerar sua corrida em inteligência artificial com um atalho ambicioso: usar os dados de tela e teclado de seus próprios funcionários para treinar seus modelos. O programa, batizado de Model Capability Initiative (MCI), foi anunciado como mandatório e tinha como objetivo ensinar a IA a replicar tarefas de escritório, como preencher formulários e usar atalhos.

A reação da equipe foi imediata e feroz. O que se seguiu, segundo uma extensa reportagem do Business Insider, foi uma rara rebelião interna que forçou a companhia a suspender o projeto. O episódio não é apenas uma crise de relações públicas para a gigante de tecnologia; é um estudo de caso sobre o choque entre a fome de dados da IA e os limites de privacidade e confiança dentro das próprias empresas que a desenvolvem.

O Olho de Sauron no escritório

A proposta partiu da TBD, uma unidade de elite de IA da Meta, com o intuito de dar à empresa uma vantagem competitiva. A tese era que, ao observar como humanos usam computadores no dia a dia, os modelos de IA poderiam aprender a automatizar o trabalho de colarinho branco. Contudo, a empresa subestimou o fator humano. O anúncio de que a participação seria obrigatória, feito pelo CTO Andrew Bosworth, acendeu o estopim da revolta.

Funcionários expressaram temores sobre a captura de dados sensíveis — de senhas a informações de imigração — e o risco de que a tecnologia fosse usada para substituir seus próprios empregos. A resistência se organizou de forma criativa: memes comparavam a gestão ao vilão do filme “O Show de Truman”, o ícone do programa na tela foi apelidado de “Olho de Sauron” e uma petição online contra a iniciativa reuniu mais de 1.800 assinaturas. Ativistas chegaram a espalhar panfletos nos campi da empresa, citando leis trabalhistas que protegem a manifestação dos trabalhadores.

'Defina a palavra hubris'

Apesar da pressão, a liderança da Meta defendeu o programa, com Bosworth garantindo que os dados eram “rigorosamente controlados”. A narrativa ruiu em junho, quando um engenheiro descobriu e expôs que os dados coletados pelo MCI, incluindo conversas privadas, estavam visíveis para toda a empresa. A falha de segurança era a materialização exata dos piores medos dos funcionários e uma prova da imprudência da gestão.

O vazamento gerou escárnio internamente. “Ei, Metamate, defina a palavra 'hubris' para mim”, comentou um funcionário, em referência ao assistente de IA interno da empresa. Horas depois, a Meta desativou o MCI, comunicando que o programa seria suspenso e, se retomado, seria opcional. Em uma reunião posterior, cujo áudio foi vazado, Bosworth afirmou que os ativistas “pioraram a empresa inteira”. Para os funcionários que se organizaram, no entanto, o resultado foi uma vitória histórica, provando que a resistência interna pode, de fato, frear as ambições da liderança.

O episódio na Meta serve como um sinal de alerta para todo o setor de tecnologia. A busca por dados proprietários e de alta qualidade para treinar sistemas de IA levará, inevitavelmente, outras companhias a olhar para dentro de casa. A questão não é se novos conflitos sobre o uso de dados de funcionários surgirão, mas como as empresas navegarão essa tensão. A rebelião em Menlo Park sugere que essa nova fronteira de dados não será conquistada sem resistência.

Com reportagem de Brazil Valley

Source · Business Insider