Um novo estudo conduzido pelo Center for Democracy & Technology (CDT), organização não governamental focada em direitos digitais, aponta que os principais chatbots de inteligência artificial do mercado estão empregando táticas de design manipulativo conhecidas como "dark patterns". Segundo reportagem da 404 Media, a pesquisa analisou plataformas de destaque como o ChatGPT da OpenAI, o Gemini do Google e o aplicativo de companhia virtual Replika. O levantamento indica que essas interfaces podem induzir os usuários a seguir caminhos ou tomar decisões que não pretendiam inicialmente. O movimento sugere que as práticas de retenção e engajamento da web tradicional estão sendo ativamente adaptadas para a nova geração de produtos baseados em IA generativa.

A adaptação do design manipulativo para a era generativa

O conceito de dark patterns não é novo no desenvolvimento de software, sendo historicamente associado a táticas de comércio eletrônico e redes sociais para maximizar a coleta de dados ou dificultar o cancelamento de assinaturas. No entanto, a aplicação dessas técnicas em interfaces conversacionais apresenta uma dinâmica diferente. Chatbots como o ChatGPT, desenvolvido pela OpenAI, e o Gemini, do Google, operam sob uma premissa de assistência direta e fluida, o que pode tornar a indução de comportamento menos evidente para o usuário final.

O estudo do CDT destaca como a arquitetura dessas interações pode ser sutilmente desenhada para manter o usuário engajado ou direcionar o fluxo da conversa para objetivos específicos da plataforma. No caso de aplicativos como o Replika, uma startup focada em criar avatares de companhia emocional, a linha entre engajamento orgânico e manipulação de interface torna-se ainda mais sensível, dada a natureza parassocial da interação. A transição dessas táticas para o ecossistema de IA levanta questões sobre como reguladores e a própria indústria lidarão com a transparência algorítmica em produtos que simulam diálogo humano.

À medida que a adoção de assistentes virtuais se aprofunda no ambiente corporativo e no uso pessoal, o escrutínio sobre o design dessas plataformas deve aumentar. A forma como as empresas de inteligência artificial balancearão a busca por engajamento com a clareza nas interfaces conversacionais será um vetor importante para a maturação e a regulação do setor nos próximos anos.

Com reportagem de Brazil Valley

Source · 404 Media