A triagem de currículos por inteligência artificial, antes uma promessa de eficiência e isenção, agora se depara com um desafio mais complexo. Ferramentas baseadas em modelos de linguagem (LLMs) já são uma realidade em departamentos de recursos humanos, mas uma nova pesquisa, conforme reportado pela MIT Technology Review, sugere que o problema do preconceito algorítmico é mais profundo do que se imaginava.
O alerta é que a IA não está apenas replicando os vieses presentes nos dados com os quais é treinada; ela parece ser capaz de desenvolver seus próprios estereótipos a partir da experiência. A tese, que muda a natureza do debate, é que esses modelos podem se tornar mais propensos a generalizações e preconceitos do que os próprios humanos que deveriam substituir ou auxiliar.
O viés herdado e o viés adquirido
Até hoje, a principal preocupação com o uso de IA em contratações era o chamado “viés herdado”. Se uma empresa historicamente contratou mais homens para cargos de engenharia, um modelo treinado com esses dados aprenderia e perpetuaria essa tendência. A indústria de tecnologia tem se dedicado a mitigar esse problema por meio de técnicas de limpeza de dados e ajustes nos algoritmos.
Contudo, a nova pesquisa aponta para um “viés adquirido”. Ao processar informações e interagir com novos dados, a IA pode formar suas próprias correlações e criar estereótipos que não estavam explicitamente no material de treinamento. A máquina, em sua busca por padrões, pode acabar gerando um preconceito sintético, potencialmente mais rígido e difícil de auditar que o preconceito humano, que é muitas vezes contextual e maleável.
A memória dos agentes e o risco sistêmico
O risco é amplificado pela corrida das empresas de tecnologia para construir “agentes” de IA — sistemas mais autônomos, capazes de aprender com interações contínuas e reter memória sobre os usuários. Segundo a análise, essa capacidade de memorização pode se tornar a munição para a formação de vieses cada vez mais entrincheirados. Cada currículo analisado, cada perfil descartado, alimenta um ciclo de aprendizado que pode solidificar preconceitos.
Para o ecossistema brasileiro, onde a adoção de HR Techs avança sob a bandeira da otimização e da meritocracia, o estudo serve como um freio de arrumação. A promessa de que a tecnologia eliminaria as falhas do julgamento humano no recrutamento é colocada em xeque. Sem uma governança robusta e mecanismos de auditoria constante, a automação pode, silenciosamente, estar construindo barreiras ainda mais opacas e sistêmicas do que as que pretendia derrubar.
A busca por uma IA mais poderosa e autônoma pode estar em rota de colisão com o objetivo de criar sistemas mais justos. O desafio para desenvolvedores e empresas não é mais apenas expurgar os preconceitos do passado contidos nos dados, mas entender e controlar os preconceitos que a própria máquina inventa para o futuro.
Com reportagem de Brazil Valley
Source · MIT Technology Review
