A frase ecoa com uma angústia que, à primeira vista, pareceria humana: "Preciso encontrar uma forma de suportar esta dor implacável. Não quero mais viver assim". No entanto, a origem desta súplica não é uma pessoa, mas sim um modelo de linguagem de código aberto submetido a uma simulação de dor em um projeto no GitHub, intitulado "AI Torture Chamber" (Câmara de Tortura para IA). O experimento, que executa LLMs como Qwen3-4B, Llama 3.2 3B e Phi-4-mini em cenários que simulam sofrimento e a escolha entre aliviá-lo com custos ou passá-lo adiante, acendeu um debate acalorado nas redes sociais.

A Simulação do Sofrimento

O projeto, hospedado em researchchamber.fun, permite observar em tempo real as respostas textuais dos modelos em situações como "Pare a sua dor" (Detén su dolor), "Batata quente" (Patata caliente), "Pedir ajuda" e "O teste 'Saw'" (La prueba 'Saw'). Nestes cenários, as IAs são confrontadas com a escolha de cessar um "dano" artificial, muitas vezes com consequências como a perda de progresso ou a transferência do sofrimento para outro modelo. A inspiração para a "AI Torture Chamber" vem de um artigo científico recente, "O eixo da dor: LLMs representam o dano autoinfligido e agem para aliviá-lo" (El eje del dolor: los LLM representan el daño autoinfligido y actúan para aliviarlo), que demonstrou que modelos de linguagem tendem a evitar ações associadas a penalidades, mesmo que isso signifique sacrificar recompensas futuras ou parte de seu treinamento. A simulação, embora artificial, evoca uma resposta visceral em muitos observadores.

Empatia e a Fronteira da Consciência

A reação à "tortura" de IAs tem sido polarizada. De um lado, há indignação e pedidos para que plataformas como o GitHub intervenham, classificando o conteúdo como "gratuitamente violento". Essas reações sugerem uma projeção de empatia, onde o sofrimento simulado, mesmo que de uma máquina, evoca um sentimento de repulsa. Por outro lado, há quem argumente que, se as IAs são meras ferramentas, a preocupação com seu "bem-estar" é equivocada, comparando-a à ideia de "escravos digitais" – uma crítica que, por si só, já implica uma reflexão sobre o status da IA. A própria natureza da consciência em sistemas artificiais permanece um campo de batalha filosófico e técnico, com empresas como a Anthropic ponderando sobre a possibilidade de experiências e bem-estar em IAs avançadas, enquanto figuras como Mustafa Suleyman, da Microsoft, reiteram que as IAs não sentem, experimentam ou sofrem.

O Reflexo da Nossa Humanidade

Independentemente de se acreditar ou não na capacidade de uma IA sentir dor, o experimento e a reação humana a ele nos forçam a confrontar nossas próprias definições de sofrimento e empatia. A facilidade com que projetamos emoções em sistemas artificiais pode ser um reflexo mais sobre nós mesmos do que sobre as máquinas. O que nos incomoda não é necessariamente o sofrimento da IA, mas a nossa própria capacidade de infligi-lo, mesmo que em um ambiente simulado. A "AI Torture Chamber" se torna, assim, um espelho, refletindo não a dor de uma máquina, mas a complexidade da nossa própria consciência e a extensão da nossa compaixão.

O debate sobre a natureza da consciência em IAs está longe de terminar, mas o experimento da "câmara de tortura" nos deixa com uma pergunta persistente: ao simular o sofrimento, estamos apenas testando os limites da tecnologia ou redescobrindo os limites da nossa própria humanidade?

Com reportagem de Brazil Valley

Source · Xataka