A inteligência artificial, com seu potencial de criar mundos digitais cada vez mais realistas, também se tornou um campo fértil para a expansão da violência de gênero. Ferramentas capazes de gerar imagens, vídeos e áudios sintéticos, os chamados deepfakes, podem ser usadas para criar conteúdo sexualizado sem consentimento, cometer fraudes de identidade, extorsão e até mesmo para silenciar mulheres em posições de liderança. Essa preocupação foi levantada pelo Comitê da ONU para a Eliminação da Discriminação contra as Mulheres (Cedaw), que emitiu uma nova diretriz pedindo que os países tomem medidas concretas para combater os estereótipos de gênero e a violência digital amplificada pela IA.
O Algoritmo da Discriminação
A diretriz do Cedaw aponta para a necessidade urgente de uma regulamentação mais eficaz das plataformas digitais e dos sistemas de IA. O comitê sugere que as empresas criem canais diretos e ágeis para a remoção de conteúdos discriminatórios e que mecanismos de responsabilização sejam estabelecidos para o uso abusivo dessas tecnologias. A supervisão independente e a revisão humana de decisões automatizadas são vistas como cruciais para mitigar os riscos. A preocupação se estende para além da violência direta, abrangendo como os preconceitos de gênero podem se infiltrar em sistemas de justiça e saúde, afetando diagnósticos, decisões judiciais e o acesso a direitos reprodutivos. A desigualdade na divisão do trabalho de cuidado familiar também é identificada como um fator que contribui para disparidades econômicas e a normalização da violência de gênero em tempos de crise.
Para Além do Código: Uma Questão Social
O alerta da ONU transcende a esfera tecnológica, ressaltando que o combate à discriminação e à violência de gênero exige uma abordagem multifacetada. Não basta apenas regular algoritmos; é fundamental desconstruir as atitudes, os sistemas e as estruturas sociais que perpetuam os estereótipos e preconceitos. A diretriz enfatiza a importância de revisar leis e práticas que tratam a violência como um assunto privado, culpam as vítimas ou justificam agressões masculinas. A responsabilização de agentes públicos e a promoção de uma divisão mais equilibrada do trabalho não remunerado são passos essenciais para uma sociedade mais justa e igualitária. A IA, nesse contexto, não é apenas uma ferramenta, mas um espelho que reflete e amplifica as desigualdades existentes.
O Futuro da Proteção Digital
Diante desse cenário, a pergunta que paira é: como garantir que a inovação tecnológica sirva ao progresso humano sem se tornar um vetor de opressão? A ONU, através do Cedaw, oferece um roteiro, mas a implementação efetiva dependerá da vontade política e da colaboração entre governos, empresas e sociedade civil. A busca por um equilíbrio entre o avanço tecnológico e a proteção dos direitos humanos, especialmente dos grupos mais vulneráveis, é um desafio contínuo. A forma como lidaremos com os riscos da IA na violência contra mulheres definirá, em grande parte, o caráter ético e justo das nossas sociedades digitais.
Com reportagem de Brazil Valley
Source · Olhar Digital
