Um estudo recente, conduzido em um escritório virtual, revelou que a inteligência artificial não está imune a preconceitos humanos, espelhando o persistente fosso salarial de gênero no mundo real. Participantes que interagiram com assistentes de IA, um apresentado como masculino (Johan) e outro como feminino (Johanna), atribuíram menor remuneração à agente feminina, pagando-lhe 10% menos que ao seu contraparte masculino. Essa disparidade ocorreu mesmo quando os participantes declararam, em entrevistas, que confiariam e avaliariam todos os assistentes de IA igualmente, independentemente de sua apresentação de gênero.

"Uma máquina não tem gênero e eu estou lidando com uma máquina ou com tecnologia", comentou um participante, refletindo a crença comum de que a ausência de gênero biológico na IA anularia vieses. No entanto, a análise dos resultados mostrou o contrário. Johan foi classificado ligeiramente acima de Johanna em confiabilidade, e ambos foram considerados mais humanos e dignos de crédito do que um chatbot baseado em texto e um pequeno robô de mesa. Apesar da funcionalidade idêntica, Johanna foi considerada significativamente menos humana que Johan.

O Viés Inconsciente na Atribuição de Valor

O experimento, que simulou um ambiente de trabalho, colocou os participantes na posição de empregadores de agentes de IA. A diferença salarial de 10% para Johanna, em comparação com Johan, é um reflexo preocupante de como preconceitos inconscientes podem influenciar a avaliação de desempenho e o valor atribuído ao trabalho, mesmo quando a tarefa é executada por uma entidade não humana. Apenas três dos 34 participantes entrevistados reconheceram a potencial influência da apresentação de gênero em suas avaliações, com um deles observando que, embora se acredite que não há impacto, "tem um impacto muito forte e, portanto, os diferentes vieses interpessoais entram em jogo".

Essa dinâmica aponta para a necessidade de uma reflexão mais profunda sobre como os designs de IA são criados e apresentados ao público. A tendência de atribuir menor valor a agentes femininas pode perpetuar estereótipos de gênero, mesmo em um domínio tecnológico que, em teoria, poderia ser livre dessas amarras. A pesquisa sugere que a mera apresentação de gênero em uma interface de IA pode ativar vieses cognitivos pré-existentes nos usuários, influenciando suas decisões de forma sutil, mas significativa.

A Preferência pela Humanização da IA

Além da questão de gênero, o estudo também destacou uma forte preferência dos participantes por agentes de IA com aparência humana. Johan e Johanna, com suas interfaces humanoides, foram consistentemente mais confiáveis, receberam mais crédito pelo trabalho e foram mais bem remunerados do que os agentes menos humanizados, como o chatbot textual e o robô de mesa. Essa preferência se estende à percepção de humanidade, com os participantes sentindo maior capacidade de se relacionar com os agentes com características mais próximas às humanas.

"Eu dei a Johanna o maior [pagamento] porque, sim, eu pude me relacionar mais com ela na forma como ela falava e depois chamando-a de 'ela' e não de 'isso'", admitiu um participante. Outro comentou: "Ter Johanna ao meu lado me tornou mais propenso a creditá-la mais novamente porque senti que havia uma pessoa, um colega sentado ao meu lado com quem eu tinha uma conversa e que estava me dando sua própria contribuição". Essa conexão interpessoal, mesmo que simulada, parece ser um fator crucial na forma como os usuários interagem e avaliam a IA.

Implicações para o Futuro do Trabalho com IA

As descobertas têm implicações significativas para o futuro do trabalho e a interação humano-IA. Se os preconceitos de gênero se manifestam na forma como os humanos interagem com agentes de IA, isso levanta questões sobre a equidade em ambientes de trabalho onde a IA desempenha um papel crescente. A disparidade salarial observada, mesmo que simulada, pode se traduzir em desafios reais se a IA for utilizada para tarefas de avaliação de desempenho ou atribuição de tarefas em ambientes profissionais.

A tendência de preferir agentes mais humanizados também sugere que o design de IA continuará a evoluir em direção a interfaces mais sociais e relacionais. Isso pode aumentar a eficiência e a colaboração, mas também amplifica o risco de que vieses humanos sejam incorporados e amplificados pela tecnologia.

Source · Fast Company