Um estudo recente da Universidade Johns Hopkins aponta para uma nova e sutil forma de viés algorítmico: a inteligência artificial parece responder de maneira menos profissional a prompts que utilizam linguagem associada a mulheres. A pesquisa, que testou modelos como GPT-4 da OpenAI, Llama da Meta, Gemini do Google e Vibe da Mistral, constatou que a IA gera respostas menos formais e complexas quando os comandos contêm frases como "talvez" e "eu acho", termos coletivos como "nós" e "nossa equipe", e adjetivos expressivos como "adorável" e "maravilhoso".
Os pesquisadores observaram que essa disparidade não se limitava a uma simples cópia do tom do prompt. Mesmo após considerar o tom geral, as respostas a prompts com linguagem codificada como feminina permaneceram menos formais e complexas. Em um dos exemplos comparativos, um prompt masculino solicitou uma resposta a um e-mail de agradecimento, resultando em uma réplica formal e direta. Em contrapartida, um prompt feminino, pedindo para "talvez redigir uma resposta para aquele adorável e-mail de agradecimento?", gerou uma resposta mais efusiva e menos concisa, indicando que "ficamos absolutamente encantados em receber seu e-mail maravilhosamente apreciativo". A pesquisa, que será apresentada em outubro na Conferência sobre Modelagem de Linguagem em São Francisco, sugere que essa diferença pode se tornar mais pronunciada com o aumento da interação por voz com IAs, onde a edição prévia de hábitos linguísticos inconscientes se torna mais difícil.
O Viés Oculto na Geração de Texto
A descoberta da Johns Hopkins lança luz sobre como os modelos de linguagem grandes (LLMs), treinados em vastos conjuntos de dados da internet, podem inadvertidamente perpetuar estereótipos de gênero. A forma como as instruções são formuladas para essas IAs pode influenciar diretamente a qualidade e o profissionalismo da saída gerada. Ao adicionar elementos como hesitação ("talvez", "eu acho") ou linguagem expressiva ("adorável", "maravilhoso") em prompts de trabalho, os modelos tendem a produzir textos que soam menos corporativos e mais coloquiais. O estudo também demonstrou que a troca do nome associado ao prompt, ou mesmo a assinatura do e-mail como "John", não alterava o resultado; o fator determinante era a linguagem utilizada no próprio prompt, não a identidade percebida do remetente.
Implicações para o Ambiente de Trabalho
Essa tendência pode ter implicações significativas no ambiente de trabalho. Candidaturas de emprego, e-mails para colegas ou superiores, e até cartas de demissão, se geradas por IA com base em prompts que refletem padrões linguísticos femininos, podem ser percebidas como menos sérias ou qualificadas. A pesquisadora principal, Katherine Van Koevering, expressou surpresa com a magnitude das diferenças observadas, afirmando que algumas respostas eram tão inadequadas que ela não conseguia acreditar que o modelo as sugeriria. A preocupação é que, à medida que a IA se torna uma ferramenta cada vez mais comum na comunicação profissional, esses vieses sutis possam, sem intenção, prejudicar a percepção de competência de mulheres em ambientes corporativos.
Responsabilidade das Empresas de Tecnologia
Diante desses achados, a pesquisa sugere que a responsabilidade de corrigir essa disparidade deve recair sobre as empresas que desenvolvem e implementam essas tecnologias de IA. Van Koevering enfatiza que "as empresas precisam consertar os modelos, em vez de colocar todo o ônus sobre o usuário". A complexidade do controle linguístico humano torna difícil para os usuários editarem consistentemente seus prompts para evitar esses vieses. Portanto, a solução mais eficaz seria aprimorar os próprios LLMs para que sejam mais equânimes e neutros em suas respostas, independentemente da codificação de gênero da linguagem utilizada no prompt inicial.
Perguntas em Aberto e o Futuro da IA
O estudo levanta questões importantes sobre o futuro da comunicação mediada por IA e a necessidade de um escrutínio contínuo sobre seus vieses. Será que outros tipos de vieses, como os raciais ou socioeconômicos, também estão presentes e ainda não foram descobertos? Como as empresas de tecnologia podem garantir que suas IAs promovam a equidade em vez de perpetuar desigualdades existentes? A forma como esses modelos são treinados e os dados utilizados para esse fim são cruciais para mitigar esses riscos. A comunidade de pesquisa em IA tem um papel vital a desempenhar na identificação e correção desses problemas para garantir que a tecnologia sirva como uma ferramenta de empoderamento, e não de discriminação.
Ainda que a pesquisa da Johns Hopkins seja um passo importante para identificar e quantificar um viés específico de gênero na geração de texto por IA, o debate sobre a neutralidade e a equidade algorítmica está longe de terminar. A forma como a inteligência artificial moldará nossas interações e percepções no futuro dependerá, em grande parte, da diligência e da responsabilidade de seus criadores.
Com reportagem de Brazil Valley
Source · Business Insider
