Algoritmos de inteligência artificial utilizados em processos de recrutamento exibem um viés racial sistemático, dificultando o avanço de candidatos negros e asiáticos em grandes empresas, segundo um estudo conduzido por pesquisadores da Universidade de Stanford. A análise, que examinou milhões de candidaturas processadas pela plataforma pymetrics — adquirida pela Harver em 2022 —, expõe as fragilidades de um mercado de trabalho cada vez mais dependente de uma tecnologia centralizada para filtrar talentos.

O levantamento baseou-se em um conjunto de dados abrangendo de 2018 a 2022, com mais de 4 milhões de candidaturas para cerca de 1.700 vagas. A tese central é que a chamada "monocultura algorítmica" — o uso da mesma tecnologia por diversos empregadores — amplifica o impacto negativo sobre grupos minoritários, criando um efeito cascata que impede que candidatos alcancem etapas de entrevista em múltiplos processos seletivos simultâneos.

A falácia da neutralidade técnica

Embora a pymetrics utilize jogos de avaliação comportamental e cognitiva em vez de análise direta de currículos, os pesquisadores constataram que a ausência de dados demográficos explícitos não garante a equidade. O modelo de IA acaba identificando padrões de interação ou variáveis secundárias nos testes que funcionam como proxies para raça ou origem, replicando preconceitos estruturais que o sistema deveria, em teoria, mitigar. Esse fenômeno demonstra que a neutralidade matemática é, muitas vezes, uma ilusão técnica.

A dificuldade de detecção desse viés ocorre pela forma como as empresas avaliam seus resultados. Ao agregar recomendações de diferentes setores e cargos, os desvios estatísticos acabam sendo mascarados pela média geral. O estudo aponta que, ao analisar cargos individualmente, o padrão de exclusão torna-se evidente, confirmando que a visão macro frequentemente esconde a discriminação que ocorre na microestrutura das vagas.

O perigo da padronização de mercado

O mecanismo de exclusão torna-se particularmente severo quando um candidato submete currículos para diferentes empresas que utilizam o mesmo fornecedor de tecnologia. A pesquisa observou que, ao contrário de processos humanos tradicionais, onde a subjetividade de cada recrutador gera resultados variados, a uniformidade do algoritmo garante que o mesmo candidato seja rejeitado sistematicamente em diversos pontos de contato.

Essa padronização cria uma barreira de entrada intransponível. Se o algoritmo decide que um perfil é inadequado para um padrão específico, o candidato perde a oportunidade de ser avaliado por diferentes culturas organizacionais ou necessidades operacionais. A tecnologia, que deveria otimizar a eficiência do RH, acaba funcionando como um filtro de exclusão automatizado que ignora a diversidade de competências individuais.

Implicações para o ecossistema de contratação

As conclusões de Stanford trazem um alerta necessário para reguladores e gestores de RH sobre a necessidade de auditorias independentes. A adoção de ferramentas de IA sem transparência sobre o funcionamento dos modelos de decisão coloca as empresas em risco jurídico e ético, especialmente sob a ótica de regras como a "regra dos quatro quintos" da EEOC americana, que monitora disparidades em taxas de seleção.

Para o mercado brasileiro, que tem visto a adoção crescente de plataformas de triagem automatizada, o caso serve como um lembrete de que a tecnologia de RH não é um produto neutro. A responsabilidade pela equidade não pode ser delegada ao fornecedor do software; ela exige uma supervisão ativa que compreenda como as variáveis de entrada estão moldando, na prática, a composição da força de trabalho.

O futuro da governança algorítmica

O que permanece incerto é como as empresas reagirão à pressão por maior transparência. A resistência em abrir a "caixa-preta" dos algoritmos sob o pretexto de propriedade intelectual entra em rota de colisão com a necessidade de garantir processos seletivos justos e auditáveis.

O debate deve migrar da eficiência técnica para a responsabilidade algorítmica. O desafio para os próximos anos será definir padrões de teste que consigam identificar preconceitos antes que eles se tornem parte integrante da infraestrutura de contratação global. A tecnologia de recrutamento continuará evoluindo, mas a questão sobre quem define o que é um "bom candidato" permanece sendo uma escolha política e social.

A necessidade de vigilância constante sobre esses sistemas é reforçada pela própria natureza da IA, que aprende padrões históricos e tende a cristalizá-los. Se o objetivo é criar ambientes laborais mais diversos, a automação, da forma como é aplicada hoje, parece atuar na direção oposta, exigindo uma revisão profunda nas práticas de contratação das empresas.

Com reportagem de [Brazil Valley](/categoria/Inteligência Artificial)

Source · The Register