Uma experiência aparentemente simples com uma ferramenta de inteligência artificial para a criação da capa de um livro, "Ambitious Mother", resultou em uma transformação inesperada: o título foi alterado para "Ambitious Father" e o nome da autora, Anne Welsh, para John Welsh. O incidente, relatado pela autora, expõe uma falha fundamental nos sistemas de IA: o viés de gênero embutido em seus dados de treinamento. A IA, ao não reconhecer a combinação "Ambitious Mother" como um conceito plausível, buscou "corrigi-la", alterando não apenas o título, mas também o gênero da autora para se adequar a uma expectativa pré-existente nos dados.
Essa ocorrência ilustra um problema mais amplo: a crença equivocada de que a IA, por ser baseada em dados, é inerentemente objetiva. Na realidade, a IA aprende com o que já existe, e o que existe em nosso mundo é carregado de vieses históricos e sociais. A forma como as histórias são contadas, os dados que coletamos e a maneira como interpretamos essas informações refletem as desigualdades de gênero que permeiam a sociedade. O perigo reside na falta de percepção sobre esses vieses "embutidos" e na ausência de questionamentos adequados sobre como a IA está moldando nossa percepção da realidade.
O Duplo Vínculo da Liderança na Era da IA
A discussão sobre a lacuna de gênero na inteligência artificial frequentemente recai sobre as mulheres, com conselhos para que sejam mais assertivas, confiantes e negociadoras. No entanto, essa perspectiva ignora um fato conhecido há muito tempo: comportamentos idênticos são interpretados de forma diferente quando executados por homens e mulheres. A pesquisa sobre o "duplo vínculo" da liderança demonstra que mulheres precisam exibir a força associada à competência, ao mesmo tempo em que mantêm a "calor" esperada de seu gênero. Uma mulher assertiva, vista como competente, pode ser penalizada por não ser percebida como agradável ou calorosa, enquanto um homem com o mesmo comportamento é frequentemente elogiado.
Essa dinâmica se manifesta no ambiente de trabalho, onde, por exemplo, homens podem ser elogiados por uma "maneira de atender" empática ao fazer uma pergunta simples, enquanto mulheres que demonstram a mesma empatia têm seu comportamento simplesmente esperado, sem reconhecimento. Ao se desviarem dessa expectativa, as mulheres recebem críticas severas, enquanto homens são isentos. Agora, a inteligência artificial parece estar replicando esse mesmo padrão de julgamento desigual.
Pesquisa Revela o Impacto da IA no Percepção de Competência
Dados recentes da pesquisa "Lean In" indicam uma lacuna de gênero significativa no uso da IA no ambiente de trabalho: homens são 22% mais propensos que mulheres a usar IA diariamente ou constantemente. Embora seja crucial abordar essa disparidade, a solução não se resume apenas a incentivar o uso por parte das mulheres. É fundamental considerar o ambiente em que essa adoção ocorre. A mesma pesquisa revela que homens são 23% mais propensos a relatar que seus gerentes os incentivaram a usar IA e 27% mais propensos a dizer que foram elogiados por isso.
Por outro lado, mulheres são 32% mais propensas a temer que o uso de IA seja percebido como trapaça. Essa apreensão é justificada por estudos, como um que analisou mais de mil engenheiros de software. Nele, os participantes avaliaram códigos idênticos, variando apenas a informação sobre o uso de IA e o gênero do engenheiro. Quando se sabia que a IA havia sido utilizada, a competência percebida de todos diminuía. Contudo, a penalidade para mulheres foi mais do que o dobro da penalidade para homens. O trabalho em si não mudou, mas o conhecimento sobre a ajuda da IA impactou a percepção de competência de forma desigual.
Barreiras à Adoção e o Futuro da IA
O estudo também apontou que indivíduos que antecipavam uma maior penalidade de competência eram mais lentos em adotar IA, e essa relação era mais forte entre as mulheres. Essencialmente, as mulheres percebem com precisão que serão julgadas mais severamente pelo uso de IA, o que as torna menos propensas a adotá-la. Essa situação espelha o conselho dado às mulheres para "apenas fazerem X", sem considerar que "X" é percebido e avaliado de maneira distinta para homens e mulheres. A história se repete, com a tecnologia de ponta perpetuando velhos padrões de desigualdade.
O cenário atual levanta questões cruciais sobre como garantir que a inteligência artificial seja uma ferramenta de democratização e não de aprofundamento de vieses. A necessidade de dados mais representativos, algoritmos auditáveis e uma discussão contínua sobre o impacto social da IA são imperativos. Sem uma abordagem consciente e proativa, corremos o risco de construir um futuro tecnológico que reflete, e amplifica, as falhas do nosso passado.
Com reportagem de Brazil Valley
Source · Fast Company
