A proliferação de deepfakes sexualmente explícitos e não consensuais tem se intensificado nos últimos nove anos, migrando de redes obscuras para plataformas acessíveis ao público geral, como redes sociais e aplicativos. Uma nova pesquisa publicada no Journal of Online Trust and Safety, conduzida por Hany Farid da Dartmouth College, Sophie Nightingale e Sarah Morgan da Lancaster University, lança luz sobre a rede de suporte por trás desses sites abusivos. O estudo, intitulado “The Backbone of Abuse: How Infrastructure Providers Enable the Proliferation of AI-Generated Non-Consensual Intimate Imagery”, identificou que alguns dos maiores provedores de infraestrutura da web – incluindo Cloudflare, Google, Namecheap, WordPress e Protonmail – fornecem serviços cruciais, como hospedagem, certificados SSL, publicidade e sistemas de gerenciamento de conteúdo, para sites que hospedam imagens íntimas não consensuais (NCII).
A Rede de Suporte por Trás do Abuso
Durante um período de seis semanas, entre fevereiro e março, os pesquisadores analisaram 400 URLs e focaram em 88 sites que ativamente hospedavam NCII. A maioria do conteúdo era de celebridades femininas, atrizes, cantoras pop, ídolos de K-pop e mulheres em posições políticas ou de ativismo. A análise, utilizando ferramentas como WHOIS, revelou que cinco players emergiram como provedores dominantes. A Cloudflare, em particular, forneceu a "maior parte dos serviços", incluindo hospedagem de websites, rede de entrega de conteúdo (CDN), servidores de nomes de domínio e ferramentas de análise. O Google contribuiu com certificados SSL e espaço publicitário, enquanto a Namecheap atuou como registradora de domínios, o WordPress como sistema de gerenciamento de conteúdo e o Protonmail como servidor de e-mail. Curiosamente, cada um desses provedores possui termos de serviço que proíbem o uso de suas plataformas para atividades ilegais, como a publicação de imagens sexuais não consensuais, que é crime em muitas jurisdições.
A Responsabilidade das Plataformas
Apesar de suas próprias políticas, as empresas de tecnologia continuam a fornecer infraestrutura que sustenta a disseminação de conteúdo abusivo. Em resposta ao estudo, um porta-voz do Google afirmou que, sem os domínios específicos, não é possível investigar as alegações, mas reiterou que a empresa possui políticas rigorosas contra conteúdo explícito não consensual e trabalha para limitar sua visibilidade e proibir sua monetização. O Google também destacou que facilita a remoção de imagens explícitas não consensuais da Busca e que atualiza seus algoritmos para promover conteúdo explícito e rebaixar sites com alto número de remoções. Por outro lado, um porta-voz do WordPress.org esclareceu que a plataforma é um software de código aberto e não um provedor de hospedagem, não tendo controle direto sobre o conteúdo publicado em sites hospedados independentemente. No entanto, Hany Farid apontou que o WordPress.com, operado pela Automattic, é um serviço de hospedagem que pode servir imagens de NCII mesmo em sites auto-hospedados, utilizando infraestrutura da Automattic, como o Jetpack e o CDN do WordPress.com. Farid também mencionou a relação contínua do WordPress.org com sites auto-hospedados através de atualizações e patches de segurança, sugerindo que a isenção de responsabilidade pode não ser totalmente precisa.
Implicações e Conexões Globais
O estudo ressalta a complexidade do ecossistema digital e a dificuldade em atribuir responsabilidade única. As empresas de infraestrutura, embora declarem proibir conteúdo ilegal, muitas vezes alegam falta de controle direto ou conhecimento sobre o conteúdo específico hospedado em milhões de sites. Históricos de remoção de serviços, como o da Cloudflare para sites como Kiwifarms e 8chan, mostram que há precedentes para a ação, mas a escala do problema com deepfakes apresenta um desafio ainda maior. A pesquisa também revelou que muitos sites utilizam palavras-chave relacionadas a deepfakes para melhorar seu ranking em motores de busca, mesmo que o conteúdo principal não seja sobre isso, evidenciando a manipulação do Google e a popularidade do mercado de imagens abusivas geradas por IA. A recomendação dos pesquisadores é que os provedores cessem serviços para sites que hospedam NCII, melhorando a moderação e cooperando com ONGs e governos para identificar e bloquear URLs problemáticos.
Perguntas em Aberto e o Futuro da Regulação
O estudo levanta questões cruciais sobre a responsabilidade das empresas de tecnologia na luta contra o abuso online. Embora os criadores de deepfakes e a demanda por esse conteúdo sejam difíceis de erradicar, a pesquisa foca na "cadeia de suprimentos de distribuição" como um ponto de intervenção. A questão central é se as empresas de infraestrutura devem ser mais proativas na identificação e remoção de conteúdo ilegal, mesmo que isso implique em maior escrutínio e potenciais custos operacionais. A falta de resposta de Cloudflare, Proton e Namecheap às solicitações de comentário do 404 Media sugere uma relutância em discutir o assunto publicamente. O futuro da regulação e da autorregulação nesse campo dependerá da capacidade de todos os envolvidos – provedores de infraestrutura, plataformas de mídia social, legisladores e a sociedade civil – de colaborar para criar um ambiente digital mais seguro e ético, onde a disseminação de conteúdo íntimo não consensual seja efetivamente combatida desde sua origem.
Com reportagem de Brazil Valley
Source · 404 Media
