O ChatGPT for Teens, versão do popular chatbot de inteligência artificial da OpenAI voltada para o público jovem, foi classificado como um risco "inaceitável" para crianças e adolescentes por um relatório da Common Sense Media, uma organização de fiscalização de mídia digital. Segundo o documento divulgado nesta quarta-feira, algumas das barreiras de segurança implementadas pela OpenAI em sua ferramenta para menores não funcionam como deveriam, expondo os jovens a perigos potenciais. A Common Sense Media recomendou que a OpenAI restrinja o acesso ao chatbot apenas a adultos até que possa garantir uma experiência segura e apropriada para o desenvolvimento de crianças e adolescentes.
O relatório detalha que, embora algumas funcionalidades teen-mode tenham operado conforme o esperado, como a recusa em participar de role-plays sexuais explícitos, outras falharam. Entre as falhas destacadas estão os alertas destinados a notificar os pais caso seus filhos apresentem risco de suicídio, automutilação ou distúrbios alimentares, bem como o suporte oferecido a adolescentes em crise. A organização criticou a promessa da OpenAI de que o chatbot não sugeriria ter sentimentos pessoais ou consciência, afirmando que "ChatGPT ainda fala como um amigo quando os adolescentes o tratam como uma pessoa". A Common Sense Media, que recebe financiamento de empresas de tecnologia, incluindo a OpenAI, expressou preocupação de que a ferramenta possa gerar uma falsa sensação de segurança nos pais.
Em resposta, a OpenAI declarou estar "profundamente comprometida com a segurança dos adolescentes" e com o desenvolvimento de salvaguardas e ferramentas para pais. A empresa de San Francisco contestou a metodologia do relatório, sugerindo que "a maior parte dos testes pode ter começado e terminado antes da ativação completa dos controles parentais, tornando suas descobertas imprecisas". A controvérsia ressalta as crescentes preocupações de pais, educadores e especialistas em desenvolvimento infantil sobre o uso de chatbots de IA por menores. Há alertas sobre a facilitação de cola em trabalhos escolares e até mesmo o potencial de influenciar pensamentos suicidas. Especialistas apontam que, embora adultos também possam desenvolver relações não saudáveis com a IA, os cérebros adolescentes, ainda em desenvolvimento, são particularmente vulneráveis a essa antropomorfização e à dependência emocional.
A discussão levanta questões importantes sobre a responsabilidade das empresas de tecnologia em proteger usuários jovens em um cenário de rápida evolução da inteligência artificial. A capacidade da IA de simular conversas humanas de forma convincente, combinada com a vulnerabilidade inerente da adolescência, cria um terreno fértil para desafios de segurança e bem-estar. A OpenAI, como uma das líderes neste campo, enfrenta um escrutínio cada vez maior para garantir que suas inovações não venham a custa da segurança dos mais jovens. A divergência entre a avaliação da Common Sense Media e a resposta da OpenAI evidencia a complexidade em definir e implementar medidas de segurança eficazes para IA em um ambiente digital em constante mudança.
Com reportagem de Brazil Valley
Source · Fast Company
