A gestão de pessoas está se tornando uma caixa-preta. Decisões sobre quem é contratado, promovido ou demitido, historicamente sujeitas a vieses humanos, agora são cada vez mais influenciadas ou totalmente delegadas a sistemas de inteligência artificial. O problema é que a opacidade, que já dificultava a identificação de discriminação, ameaça se tornar ainda mais densa.
Um processo movido por ex-funcionários da Meta, reportado pela Fast Company, materializa esse risco. A alegação é que a IA da empresa desempenhou um papel central na seleção de pessoal para demissões em massa, penalizando sistematicamente quem estava em licença médica ou parental. O argumento é que os algoritmos se basearam em métricas de produtividade que, por definição, um funcionário ausente não poderia gerar, configurando uma discriminação estrutural.
A opacidade como regra
A defesa de empresas como a Meta, em casos como este, frequentemente se apoia no argumento de que seus algoritmos são informação proprietária, um segredo comercial. Essa blindagem transforma a ferramenta de gestão em uma caixa-preta inauditável, tornando quase impossível para um trabalhador provar que foi alvo de uma decisão ilegal. A questão transcende a intenção; um sistema pode perpetuar vieses sem que seus próprios criadores ou operadores tenham clareza sobre seu funcionamento interno.
Segundo a jornalista investigativa Hilke Schellmann, autora de "The Algorithm", muitas dessas ferramentas de RH chegam ao mercado com testes insuficientes sobre seus potenciais vieses. As empresas que as adotam, por sua vez, assumem uma suposta neutralidade e conformidade legal que raramente existe. O resultado é uma cadeia de responsabilidade diluída, onde nem o desenvolvedor nem o empregador se sentem totalmente responsáveis pelos resultados discriminatórios.
Mover rápido, quebrar pessoas
O episódio reflete um padrão da indústria de tecnologia. A filosofia de "mover rápido e quebrar coisas", que impulsionou a inovação por anos, encontra um limite ético e legal quando as "coisas" quebradas são carreiras e direitos fundamentais. Conforme aponta a análise da Fast Company, os custos de errar com IA em decisões de emprego são muito maiores do que em outras áreas, pois os danos podem ser profundos e de difícil reparação.
A discussão sobre princípios para uma IA centrada no trabalhador, como a que ocorre no estado de Washington, sede de gigantes da tecnologia, aponta um caminho. A questão não é frear a inovação, mas garantir que a busca por eficiência não se sobreponha à equidade. O desafio regulatório é imenso: como garantir transparência sem expor propriedade intelectual valiosa, e como auditar sistemas complexos para garantir justiça.
Sem uma resposta clara, a eficiência prometida pela IA no RH pode vir ao custo de uma nova forma de discriminação, mais sutil, escalável e difícil de combater. A tecnologia avança, mas os princípios de justiça no trabalho permanecem os mesmos. O desafio é garantir que os algoritmos sejam programados para respeitá-los.
Com reportagem de Brazil Valley
Source · Fast Company
