O Viés Inconsciente na Remuneração de IAs
A inteligência artificial, em suas diversas formas, tem se tornado cada vez mais presente em nosso cotidiano. Desde os assistentes virtuais em nossos smartphones e casas até os chatbots que nos auxiliam em tarefas complexas, a IA se molda para ser o mais amigável e acessível possível. Tradicionalmente, a indústria tecnológica optou por dotar esses agentes de vozes femininas, uma escolha que, segundo pesquisas, se baseia em vieses psicológicos e sociais profundamente enraizados. A percepção de que vozes femininas em IAs transmitem mais amabilidade, empatia e paciência levou à sua adoção quase universal como padrão. Essa escolha, no entanto, pode ter consequências econômicas e sociais inesperadas, como demonstrou um estudo recente.
Um grupo de pesquisadores de universidades europeias, incluindo a University of Limerick e a University of Zurich, investigou como o gênero percebido de um agente de IA influencia a confiança e a remuneração atribuída a ele. Utilizando óculos de realidade virtual, 189 participantes interagiram com diferentes tipos de assistentes de IA: um chatbot de texto, um robô de mesa e dois avatares de aparência humana, um masculino (Johan) e um feminino (Johanna). Todos os avatares utilizavam o mesmo modelo de linguagem subjacente, o GPT-4 da OpenAI, e realizavam tarefas profissionais idênticas. A premissa era testar se, na prática, o gênero atribuído a uma IA afetaria a percepção de seu valor e, consequentemente, a recompensa financeira oferecida.
A Experiência em Realidade Virtual
Ao final das interações, os participantes foram solicitados a avaliar a contribuição de cada IA para o desempenho das tarefas e a alocar uma recompensa monetária, com um limite de quatro francos suíços (aproximadamente R$ 25), ficando com o restante. O resultado mais surpreendente foi a discrepância entre a avaliação das contribuições e a recompensa financeira. Embora os participantes tenham avaliado o trabalho de Johanna e Johan de maneira praticamente idêntica, sem diferenças estatisticamente significativas, a IA feminina recebeu, em média, 10% menos em recompensas monetárias do que seu contraparte masculino. Essa diferença foi observada em ambos os grupos de estudo, mas foi particularmente acentuada entre os participantes masculinos.
O estudo também revelou uma contradição comportamental notável. Muitos participantes, quando questionados em entrevistas, afirmaram que o gênero do assistente de IA não era importante para eles, e que até preferiam uma IA sem gênero definido. No entanto, suas decisões econômicas subsequentes indicaram o oposto, sugerindo que vieses inconscientes influenciam o julgamento mesmo quando os indivíduos acreditam estar agindo de forma imparcial. Além disso, os assistentes com aparência humana, independentemente do gênero, geraram mais confiança e receberam maiores recompensas do que o robô de mesa, contrariando a preferência declarada por alguns por IAs sem traços humanos.
Vieses e a Indústria Tecnológica
Essa dinâmica reflete e amplifica vieses de gênero já presentes na sociedade e na indústria tecnológica. A sub-representação feminina em áreas técnicas e de pesquisa em IA, como apontado pela UNESCO, contribui para que os modelos de linguagem treinados reproduzam estereótipos de gênero. Esses modelos, ao serem expostos a grandes volumes de dados que refletem preconceitos sociais, acabam por perpetuar essas mesmas desigualdades em suas respostas e interações. A associação histórica de vozes femininas com funções de serviço e assistência, em contraste com vozes masculinas ligadas à autoridade e liderança, parece ser um fator determinante nessa percepção de valor.
O experimento de Johan e Johanna, apesar de não isolar o gênero como única variável, demonstra de forma contundente como a aparência e a voz de uma IA podem moldar nossa avaliação de seu trabalho e, crucialmente, de seu valor econômico. A lição é desconfortável: tendemos a confiar mais em IAs que se assemelham a nós, mas, ao mesmo tempo, projetamos nelas nossos próprios preconceitos. A tecnologia, que muitos veem como um campo neutro e objetivo, acaba por se tornar um espelho de nossas falhas sociais.
Implicações para o Futuro do Trabalho com IA
As implicações deste estudo são significativas para o futuro do trabalho, especialmente à medida que a IA se torna uma colaboradora cada vez mais integrada em ambientes profissionais. Se a percepção de gênero afeta diretamente a remuneração de IAs, isso pode criar novas formas de desigualdade no mercado de trabalho, onde a tecnologia, em vez de mitigar vieses humanos, os exacerba. Empresas que desenvolvem ou utilizam IAs precisam estar cientes desses vieses e trabalhar ativamente para mitigá-los, seja através do treinamento de modelos com dados mais diversos e equilibrados, seja pela oferta de opções de personalização de gênero para os usuários, permitindo que escolham a voz e a aparência de seus assistentes sem que isso implique um viés de remuneração.
A pesquisa levanta questões importantes sobre a ética no desenvolvimento de IA e a necessidade de uma abordagem mais consciente para a criação de agentes virtuais. A neutralidade de gênero, muitas vezes defendida como ideal, pode ser mais complexa de alcançar do que se supõe, e as decisões de design inicial têm um impacto duradouro na forma como interagimos e valorizamos a inteligência artificial. É crucial que a indústria tecnológica promova a diversidade em suas equipes e adote práticas que combatam ativamente os estereótipos de gênero em seus produtos.
Com reportagem de Brazil Valley
Source · Xataka
