O Ministério da Justiça e Segurança Pública (MJSP) do Brasil lançou um alerta sobre os potenciais riscos que 13 plataformas de “companheiros de IA” representam para crianças e adolescentes. Serviços populares como Character.AI e Replika foram incluídos na lista de análise, que aponta falhas significativas na verificação de idade, exposição a conteúdo sexualizado e a coleta de dados pessoais íntimos. A investigação, conduzida pela Secretaria Nacional de Direitos Digitais (Sedigi), visa a proteger os jovens usuários de interações automatizadas que podem simular relações afetivas e de apoio emocional, mas que também apresentam perigos de uso compulsivo e exploração.

O crescente mercado de “companheiros de IA” tem visto um aumento expressivo no número de plataformas e downloads. Um relatório do Unicef indica que, entre 2022 e julho de 2025, o número de serviços saltou de 16 para 128, com 60 milhões de downloads no primeiro semestre de 2025. Essa expansão rápida, aliada à natureza personalizada e contínua dessas interações, levanta preocupações sobre o potencial de apego intenso, a substituição de relações humanas reais e a exposição a materiais inadequados para a faixa etária. A Sedigi destacou que esses sistemas podem criar perfis comportamentais e emocionais detalhados, abrindo portas para manipulação e práticas comerciais exploratórias.

Riscos na verificação de idade e conteúdo

A análise governamental revelou que dez dos treze sistemas avaliados dependem unicamente da autodeclaração de data de nascimento ou de uma confirmação simples de maioridade. Testes realizados pela Sedigi demonstraram que esses mecanismos são facilmente contornáveis, permitindo que adolescentes criem perfis como adultos. Essa fragilidade na verificação de idade é particularmente preocupante à luz do Marco Legal das Comunicações (ECA Digital), que exige mecanismos eficazes para proteger menores e proíbe a autodeclaração como único método de controle em certas situações. O decreto que regulamenta a lei equipara interações automatizadas sexualmente explícitas a conteúdo pornográfico, reforçando a necessidade de salvaguardas robustas.

Coleta de dados e perfis comportamentais

Além da questão da idade e do conteúdo, o governo identificou potenciais problemas relacionados ao uso de perfis emocionais para personalizar ofertas, publicidade e recursos pagos dentro das plataformas. A capacidade da IA de simular empatia e de memorizar informações íntimas fornecidas pelo usuário pode levar à criação de dependência emocional, que, por sua vez, pode ser explorada comercialmente. A Sedigi recomendou que a Agência Nacional de Proteção de Dados (ANPD) avalie os riscos à privacidade e que a Secretaria Nacional do Consumidor (Senacon) analise as práticas de proteção ao consumidor e possíveis táticas enganosas ou exploratórias.

Regulamentação global e próximos passos

A preocupação com os vínculos afetivos estabelecidos com sistemas de IA não é exclusiva do Brasil. A China, por exemplo, implementou regras contra IAs de namoro que estimulam dependência emocional, forçando empresas a desativar funcionalidades de interação íntima. Na União Europeia, discute-se a restrição do acesso de menores de 15 anos a chatbots de IA e plataformas sociais, com a exigência de mecanismos de verificação de idade e supervisão parental. No contexto brasileiro, a análise do MJSP ainda não configura infração, mas garante aos fornecedores o direito à ampla defesa. Os resultados foram encaminhados à ANPD e à Senacon para as devidas avaliações.

Perguntas em aberto

O caso levanta questões cruciais sobre o equilíbrio entre inovação tecnológica e a proteção de grupos vulneráveis. Até que ponto as empresas de IA devem ser responsabilizadas pelo conteúdo e pelas interações que seus sistemas promovem, especialmente quando direcionados a um público jovem? Quais mecanismos de verificação de idade são tecnicamente viáveis e legalmente exigíveis para garantir a segurança dos menores online? A resposta a essas perguntas definirá o futuro da interação entre humanos e IA, especialmente em um cenário onde a linha entre o real e o virtual se torna cada vez mais tênue.

A análise do Ministério da Justiça é um passo importante para conscientizar sobre os riscos e iniciar um diálogo sobre a regulação necessária para proteger crianças e adolescentes no ambiente digital. A forma como ANPD e Senacon responderão a estas recomendações, e como as plataformas se adaptarão, será fundamental para moldar um ecossistema de IA mais seguro e ético no Brasil.

Com reportagem de Brazil Valley

Source · Tecnoblog