O Ministério da Justiça e Segurança Pública do Brasil anunciou a abertura de uma investigação sobre 13 aplicativos de inteligência artificial (IA) que se propõem a oferecer companhia e simular vínculos afetivos com os usuários. A Agência Nacional de Proteção de Dados (ANPD) foi acionada para apurar os potenciais riscos associados a essas ferramentas, especialmente quando utilizadas por crianças e adolescentes. Entre as preocupações levantadas pelo governo estão a dependência emocional, o uso compulsivo, a exposição a conteúdo inadequado e a coleta excessiva de dados pessoais.
As plataformas em análise incluem nomes como Character.AI, Replika e Candy.ai. É importante ressaltar que o levantamento é preliminar e, conforme o próprio Ministério da Justiça, não implica que as empresas já tenham cometido infrações. O foco recai sobre a natureza dessas IAs, que se distinguem de chatbots de uso geral como ChatGPT ou Gemini. Estas IAs de companhia são projetadas para manter conversas contínuas e personalizadas, memorizar interações passadas e emular personalidades ou relações emocionais. A proposta é que funcionem como amigos virtuais, parceiros românticos ou confidentes, o que gera apreensão governamental, sobretudo no que tange ao público infanto-juvenil.
Riscos para o Desenvolvimento Infantil
Segundo a Secretaria Nacional de Direitos Digitais (Sedigi), os impactos potenciais para crianças e adolescentes incluem o desenvolvimento de apego excessivo a essas IAs, a substituição de relações interpessoais presenciais, privação de sono e queda no desempenho escolar. Há também o risco de abandono de outras atividades importantes para o desenvolvimento saudável. A exposição a conteúdos de natureza sexualizada ou inadequada para a faixa etária é outra preocupação significativa, dado o caráter íntimo e contínuo das interações.
O crescimento acelerado dessas aplicações é notável. Dados compilados pelo Ministério da Justiça, com base em um relatório do Unicef, indicam um aumento expressivo no número de aplicativos de companhia por IA, saltando de 16 em 2022 para 128 em julho de 2025. No primeiro semestre de 2025, essas plataformas registraram aproximadamente 60 milhões de downloads globais, evidenciando a popularidade e o alcance do fenômeno.
Verificação de Idade e Exploração Comercial
Um dos pontos críticos destacados pelo governo é a fragilidade dos mecanismos de verificação de idade. A análise preliminar aponta que a maioria dos serviços avaliados se baseia apenas na autodeclaração do usuário, um método facilmente contornável e insuficiente para proteger menores em plataformas que podem veicular conteúdo impróprio. A Sedigi também alertou para a criação de perfis emocionais e comportamentais dos usuários a partir das conversas. Essas informações, potencialmente valiosas, podem ser usadas para personalizar respostas, direcionar publicidade ou oferecer recursos pagos, levantando sérias dúvidas sobre a exploração comercial da vulnerabilidade de adolescentes.
A investigação deverá pautar-se pelas diretrizes do Estatuto Digital da Criança e do Adolescente (ECA Digital), que estabelece obrigações específicas para serviços digitais frequentados por menores. O pedido de apuração foi encaminhado tanto à ANPD quanto à Secretaria Nacional do Consumidor (Senacon), indicando uma abordagem coordenada para mitigar os riscos identificados.
Debate Global e Ações Recentes no Brasil
A preocupação com as IAs de companhia não se restringe ao Brasil. A União Europeia já apresentou propostas para restringir chatbots que simulam relações emocionais com menores, buscando reduzir a dependência e limitar o armazenamento de dados de conversas. No cenário brasileiro, esta investigação se insere em um contexto de ações governamentais recentes voltadas à segurança de crianças e adolescentes no ambiente digital, incluindo novas regras para comunicação de crimes e medidas contra plataformas como o Discord.
O debate em torno da segurança digital infantil e da influência das novas tecnologias em seu desenvolvimento está apenas começando. A forma como essas IAs serão reguladas e o impacto a longo prazo em relacionamentos e no bem-estar dos jovens permanecem como questões cruciais a serem acompanhadas.
Com reportagem de Brazil Valley
Source · Canaltech
