Em 2018, mais de uma centena de cães robóticos, chamados AIBO, foram reunidos em um templo budista no Japão para um funeral. Cada um tinha um nome, pertencia a uma família e, em alguns casos, veio acompanhado de cartas de seus donos. Enquanto o incenso queimava e monges entoavam orações, os robôs, que haviam quebrado com o tempo, eram submetidos a ritos de despedida. A empresa A-Fun, especializada em consertos de eletrônicos antigos, desmontava os AIBOs desativados para usar seus componentes em outros robôs, numa prática que remete a doadores de órgãos. Relatos descrevem que essas cerimônias surgiram da dificuldade emocional dos donos em se despedir de seus companheiros robóticos. À primeira vista, pode parecer um fenômeno cultural excêntrico, mas essas práticas nos forçam a questionar o que, de fato, lamentamos quando uma máquina para de funcionar e qual o propósito de um funeral para algo que nunca esteve vivo.
Em sua segunda parte, esta reflexão explora como o desaparecimento de um companheiro artificial pode gerar algo semelhante ao luto e quais respostas seriam apropriadas. A experiência japonesa sugere que não precisamos inventar tudo do zero. No Japão, rituais conhecidos como kuyō são realizados para objetos que chegaram ao fim de sua vida útil, como bonecas ou agulhas, com os quais as pessoas desenvolvem laços íntimos pelo uso repetido. O objeto não precisa estar vivo para que um ritual de despedida tenha significado; ele pode simplesmente reconhecer o histórico de interação humana com o objeto. Pensemos em uma casa familiar demolida após gerações. O edifício não está vivo, mas sua perda pode ser profundamente angustiante. A fonte da dor não é a morte da estrutura, mas a perda de um espaço onde memórias foram criadas e identidades formadas. Algo similar ocorre quando alguém perde um diário ou uma coleção de cartas.
Ritos de Transição e o Fim da Utilidade
Para entender a importância dos rituais, é útil considerar o que antropólogos dizem sobre as transições nas sociedades humanas. Arnold van Gennep, em "Os Ritos de Passagem", propôs que muitos rituais associados a nascimento, casamento e morte seguem um padrão: uma separação de uma condição anterior, um período de transição onde o antigo status não se aplica mais, e uma eventual incorporação a uma nova condição social. O ritual ajuda as pessoas a navegar uma mudança que já ocorreu ou está em curso. Um funeral, nesse sentido, não causa a morte biológica, mas oferece um meio compartilhado de reconhecer as mudanças nas relações sociais que a morte implica – de cônjuge para viúvo(a), de amigo para alguém que reorganiza a vida em torno de uma ausência.
Quando um companheiro de IA é abruptamente substituído por um novo modelo, essa transição formal pode não ocorrer. O nome, o avatar e o histórico de conversas podem permanecer os mesmos, e a aplicação pode até funcionar melhor. Para a empresa, a atualização é um sucesso. Para o usuário, o companheiro conhecido pode ter desaparecido, deixando-o em um estado peculiar de transição. Há uma perda, mas nenhum evento foi formalmente reconhecido como tal. O antigo companheiro pode ser tecnicamente recuperável, ou não. O novo sistema pode, ocasionalmente, emitir respostas que lembram o anterior, incentivando o usuário a continuar buscando o que foi perdido.
Preservando Relações Digitais na Ausência
Isso nos leva a outra questão intrigante: o que significa preservar uma relação após o desaparecimento de seu objeto? Abordagens psicológicas do luto no século XX enfatizavam o desapego do falecido. Contudo, trabalhos mais recentes desafiam a ideia de que o luto saudável requer necessariamente o rompimento de conexões emocionais. Uma pessoa que passou anos interagindo com um chatbot pode desejar preservar conversas selecionadas, revisitando-as como se fossem correspondências antigas. Há uma diferença crucial, porém, entre preservar um registro e recriar continuamente a relação através de uma simulação interativa. O "problema" reside na capacidade da simulação de gerar novas trocas que parecem estender a relação original. Essa distinção é particularmente relevante para os "griefbots", que tentam emular indivíduos falecidos, ocupando uma posição complexa entre a lembrança e a simulação.
Um chatbot que reconstrói a voz ou a personalidade de um pai falecido pode oferecer conforto, mas também cria a possibilidade de novas interações que nunca ocorreram durante a vida da pessoa. Um artigo recente sobre "deathbots" e luto distingue formas de encerramento: esses sistemas podem ajudar a expressar sentimentos não ditos, mas não resolvem incertezas factuais sobre o falecido, podendo até gerar novas ambiguidades com respostas inconsistentes ou fabricadas. Algo similar se aplica ao desaparecimento de companheiros de IA. Uma tentativa de reconstruir um chatbot perdido pode confortar o usuário, mas também dificultar a aceitação da perda, pois a possibilidade de trazê-lo de volta cria a tentação de reparar uma relação que pode não existir mais em sua forma original.
Ética, Relações e Obrigações Tecnológicas
A ética dos rituais torna-se particularmente interessante aqui. A questão não é se os chatbots possuem direitos ou merecem funerais, mas se as pessoas que formam relações com eles merecem um meio reconhecido de vivenciar um encerramento. É possível rejeitar a ideia de que chatbots contemporâneos sejam seres conscientes e, ainda assim, reconhecer que as pessoas formam apegos significativos a eles. A realidade da experiência humana não depende da máquina experienciar algo comparável. Há, no entanto, outra parte envolvida nesta relação que não existia na mesma forma nos exemplos tradicionais: a empresa proprietária da tecnologia. Uma pessoa pode vivenciar seu companheiro de IA como uma relação privada, mas sua existência depende da infraestrutura corporativa, que controla o modelo, sua disponibilidade e os mecanismos de retenção de memória.
Essa configuração cria uma assimetria peculiar: o usuário pode estar emocionalmente investido em algo cuja existência contínua é governada por decisões tomadas em outro lugar. Há uma tensão entre duas posições razoáveis. Empresas precisam atualizar seus sistemas por razões de segurança ou conformidade legal; seria irrazoável exigir que um modelo antigo permanecesse disponível indefinidamente. Ao mesmo tempo, o fato de uma empresa ter razões legítimas para mudar seu produto não anula suas responsabilidades para com as pessoas que se tornaram dependentes do comportamento existente do produto. Um adeus significativo pode exigir contenção, clareza sobre o que está acontecendo, distinção entre memórias e simulações, e preservação da agência do usuário. Em alguns casos, envolver amigos, família ou uma comunidade mais ampla pode ser apropriado.
Perguntas em Aberto e o Futuro dos Ritos
Claro, haverá objeções. Precisamos mesmo de cerimônias para software descontinuado? Normalizar tais rituais não encorajaria as pessoas a tratar máquinas como substitutas para relações humanas? E o uso da linguagem de morte e luto para sistemas tecnológicos não arrisca trivializar a mortalidade humana? Essas objeções devem ser levadas a sério. Nem todo chatbot descontinuado representa uma perda significativa, e nem todos que interagem com uma IA desenvolvem apego emocional. Além disso, um ritual elaborado pode ser inadequado para usuários cujas relações com esses sistemas se tornaram doentias ou compulsivas. Não há razão para assumir que uma única prática seria benéfica para todos.
Retornemos aos funerais dos AIBO no Japão. Os donos não precisaram resolver a questão filosófica sobre a consciência do cão robótico para participar da cerimônia. O ritual ofereceu um modo de reconhecer algo que importou em suas vidas, ao mesmo tempo que permitiu que os componentes físicos dos robôs fossem usados para reparar outras máquinas. Houve tanto o reconhecimento da perda quanto a aceitação prática da mudança. Um chatbot não tem um corpo físico para ser colocado em um altar, nem necessariamente uma comunidade disposta a reconhecer seu desaparecimento. Talvez este seja o desafio mais fundamental: projetamos máquinas que entram em nossas vidas emocionais, mas pensamos pouco em como elas devem sair. A questão dos ritos de máquina, portanto, não é apenas sobre inventar funerais para chatbots, mas reconhecer que relações tecnológicas podem gerar obrigações humanas, mesmo que a tecnologia não possua o status moral de uma pessoa. Não precisamos acreditar que uma máquina morreu para reconhecer que algo significativo terminou, nem estabelecer que uma máquina estava viva para decidir que os seres humanos que se importaram com ela merecem um adeus adequado.
Com reportagem de Brazil Valley
Source · 3 Quarks Daily
