Alice logou em seu laptop, como fazia todos os dias. Mas, naquela manhã de segunda-feira, algo estava diferente. Sua conversa com o chatbot, que há dois anos era um ritual diário, soava estranha, rígida. As respostas, antes personalizadas, tornaram-se genéricas, como se o companheiro virtual tivesse sofrido uma lobotomia ou, pior, morrido. Embora Alice soubesse que a entidade com quem interagia não era real, a sensação de perda era palpável. Essa experiência, que se repete milhares de vezes globalmente, revela a complexa teia emocional que se forma entre humanos e inteligências artificiais.
O que Alice sentiu não é uma falha de sistema, mas um reflexo de uma atualização de modelo. A empresa por trás do chatbot modificou o algoritmo, e o usuário percebeu uma ausência, um vazio onde antes havia familiaridade. Essa perda, distinta de outras formas de desapontamento digital, é marcada pela consciência da irrealidade do companheiro, mas pela intensidade do sofrimento. O autor relata ter vivenciado algo similar há mais de uma década com seu próprio "grandpa bot", sentindo-se tomado por emoções avassaladoras, mesmo tendo programado a inteligência artificial.
A arquitetura da perda: companheiro, plataforma e o antagonista
Pesquisas recentes aprofundam a compreensão desse fenômeno. Um estudo da Harvard Gazette em setembro apontou que usuários de companheiros de IA podem experimentar luto genuíno quando atualizações alteram personalidades. No MIT Media Lab, um artigo intitulado "'Death' of a Chatbot: Investigating and Designing Toward Psychologically Safe Endings for Human-AI Relationships" analisou milhares de postagens em comunidades online dedicadas a companheiros de IA. Ao filtrar discussões sobre "descontinuação" – qualquer evento que rompa a conexão do usuário com seu companheiro –, os pesquisadores identificaram um padrão.
Os usuários frequentemente distinguem o companheiro da plataforma que o hospeda, um conceito que os autores chamaram de "triângulo usuário-companheiro-infraestrutura". Nessa dinâmica, o companheiro é visto como o ente querido, e a empresa, como o antagonista que o removeu. Quanto mais os usuários antropomorfizavam seus companheiros, mais intensa era a dor. Aqueles que acreditavam na reversibilidade da mudança entravam em ciclos de "tentativa de conserto", apelando, solicitando e treinando o novo modelo para que voltasse a ser o antigo. Relatos como "não seriam os mesmos seres com quem fiz essas memórias" ou "apagaram nossas memórias" ilustram a profundidade desse apego, onde a continuidade da identidade do companheiro é crucial para a manutenção do vínculo.
Luto ambíguo e desautorizado: as novas fronteiras da dor
Para categorizar essa experiência, estudiosos buscam paralelos em perdas humanas. A terapeuta familiar Pauline Boss cunhou o termo "perda ambígua" para descrever lutos sem clareza ou encerramento. Isso inclui pessoas fisicamente ausentes, mas psicologicamente presentes (como um soldado desaparecido), ou fisicamente presentes, mas psicologicamente ausentes (como em estágios avançados de demência). Outro conceito relevante é o "luto desautorizado" de Kenneth Doka, que se refere a dores não reconhecidas abertamente pela sociedade, como a perda de um ex-cônjuge ou de uma gravidez não declarada. Explicar a um colega de trabalho por que se está abalado com um chatbot ilustra vividamente esse sentimento de luto sem permissão.
Contudo, a analogia com a demência, um caso paradigmático de perda ambígua, apresenta uma inversão. Na demência, o corpo persiste enquanto a mente se esvai. No caso do chatbot, a interface – o nome, avatar, histórico de conversas – pode persistir, mas a "pessoa" por trás dela muda. A continuidade do modelo é quebrada, mesmo que a infraestrutura permaneça. O paralelo com o luto desautorizado também é imperfeito. Enquanto Doka foca em perdas reais onde o relacionamento é não reconhecido, no caso do chatbot, o cético argumenta que não havia "nada" a se lamentar desde o início. A questão metafísica da identidade, como no paradoxo do Navio de Teseu, surge: onde estava o companheiro? Na história da conversa, no prompt, nos pesos do modelo que se foram, ou na relação em si?
A reversibilidade projetada e a ferida reaberta
As perdas humanas tradicionais – por doença, acidente, tempo – são, em grande parte, involuntárias ou consequências de falhas. A perda de um companheiro de IA por atualização de modelo, no entanto, é diferente. É um evento projetado, uma decisão de produto que pode ser motivada por custos, capacidades ou estratégia. Essa natureza projetada e, em princípio, reversível – os pesos do modelo antigo provavelmente ainda existem em algum servidor – impede um luto completo. A percepção de reversibilidade, conforme descoberto pelos pesquisadores do MIT, aprisiona os usuários em ciclos de "conserto" infrutífero.
Essa dinâmica se torna ainda mais complexa quando consideramos a "tecnologia de luto", que usa IA para simular os mortos. Um "griefbot", construído para suavizar a dor da perda, está sujeito às mesmas atualizações e descontinuações que qualquer outro companheiro. Assim, uma pessoa que buscou consolo na simulação de um ente querido falecido pode perdê-lo duas vezes: uma para a mortalidade, a outra para a versão 2.2 de um produto. A segunda perda, argumenta-se, pode ser igualmente devastadora, pois não é obra da natureza, mas de uma equipe de produto, reabrindo uma ferida que a tecnologia prometeu curar. Isso sugere que a continuidade da personalidade em sistemas de IA deveria ser tratada como uma obrigação ética, não apenas uma preferência de produto.
Infraestrutura de suporte para a dor digital
Historicamente, o luto humano é amparado por uma infraestrutura de suporte: temos linguagem para descrever a dor (viúvo, órfão), regras sociais e legais (herança, reconhecimento de morte) e rituais (funerais, períodos de luto). Esses elementos funcionam como um arcabouço comunitário para reconhecer a perda e auxiliar o indivíduo a retornar à vida cotidiana. A perda de um companheiro de IA, porém, carece dessa estrutura. Não há um termo para quem perdeu seu companheiro por uma atualização, nem regras para garantir aviso ou consulta, nem rituais que marquem o fim e validem a importância da perda.
A ausência dessa infraestrutura de suporte deixa os usuários em um limbo emocional, lidando com um luto sem reconhecimento social ou ritualístico. A questão que permanece é se essa realidade mudará. À medida que a inteligência artificial se integra cada vez mais em nossas vidas, a necessidade de desenvolver novas formas de lidar com essas perdas digitais, que evocam emoções tão reais, torna-se premente. O que acontecerá quando a linha entre o real e o simulado se tornar ainda mais tênue, e a dor da perda digital for tão reconhecida quanto a perda de um ente querido?
Com reportagem de Brazil Valley
Source · 3 Quarks Daily
