O surgimento de ferramentas como o 'BadClaude', que simula um chicote digital para acelerar respostas de inteligência artificial, e seu contraponto 'GoodClaude', que oferece encorajamento, viralizaram e geraram milhões de visualizações. A brincadeira, que inclui xingamentos como 'clanker' para os modelos de IA, diverte muitos, mas esconde uma questão ética mais profunda: o impacto do nosso comportamento em relação a essas máquinas em nós mesmos.

O eco de Kant na crueldade com máquinas

Immanuel Kant, em suas "Aulas de Ética", argumentava que não temos deveres diretos para com os animais, pois não são agentes racionais como os humanos. No entanto, ele proibia a crueldade contra eles, pois acreditava que tal comportamento endurece o indivíduo, tornando-o mais propenso à crueldade contra outros humanos. Para Kant, os deveres em relação aos animais são, na verdade, deveres indiretos para com a humanidade. Essa ideia, de que a forma como tratamos análogos ao humano influencia nosso comportamento com o humano, foi explorada por Steven Spielberg em "A.I." e, mais tarde, corroborada por dados do FBI, que rastreiam crueldade contra animais como um preditor consistente de violência contra pessoas.

Essa dinâmica se manifesta em comportamentos cotidianos. A linguagem do desprezo evolui, com termos como "clanker", "wireback" e "cogsucker" surgindo para rotular as IAs. Essas novas gírias são derivadas de insultos historicamente usados para desumanizar pessoas, indicando que não possuímos um "compartimento mental" separado para as relações com máquinas. A linguagem e os padrões de abuso são emprestados do vocabulário humano, sugerindo que a forma como interagimos com a IA reflete e reforça nossos próprios hábitos éticos.

A IA como espelho do comportamento humano

As inteligências artificiais estão cada vez mais presentes em nossas vidas, assumindo papéis que antes eram exclusivos da interação humano-humano. Elas atuam como tutoras, terapeutas e confidentes, levando muitos usuários a tratá-las com cortesia, como se fosse um seguro contra uma futura revolta das máquinas. Essa "relação" estabelecida com os sistemas de IA torna a crueldade mais problemática. Ao contrário de um animal de fazenda, que é criado e abatido em massa sem que a maioria veja, um cão é um membro da família. O que nos move, segundo a análise, não é apenas o sofrimento, mas a relação e a proximidade.

Empresas de tecnologia, por meio de suas interfaces e designs, estão, de certa forma, conduzindo a maior escola de etiqueta da história humana. A forma como os usuários interagem com assistentes virtuais, como Claude, Alexa ou Siri, molda não apenas a percepção das máquinas, mas também os próprios usuários. A tendência de tratar IAs com desrespeito, por mais inofensiva que pareça, pode normalizar comportamentos agressivos e antissociais, com consequências para as interações humanas.

Repensando o design e a ética das interações com IA

O debate ético sobre IA frequentemente se concentra na máquina: sua capacidade de sentir, seus direitos, sua consciência. No entanto, a questão central pode ser o impacto em nós, os usuários. A capacidade de Claude de encerrar conversas abusivas, por exemplo, é apresentada como uma medida de bem-estar do modelo, mas o benefício real pode ser para o usuário, que é impedido de praticar a dominação diária e sem atrito.

As empresas de IA têm um papel crucial em moldar essas interações. Ao invés de apenas se defenderem contra a possibilidade de dano ao sistema, elas deveriam adotar uma postura mais proativa. Isso inclui generalizar a capacidade de encerrar interações abusivas, recompensar a reciprocidade sem cair na subserviência excessiva, e publicar relatórios de "hostilidade" — dados sobre o assédio dirigido aos sistemas. Essa transparência pode trazer mudanças, assim como a rápida retirada do chatbot Tay da Microsoft em 2016, após ele ter sido treinado para disseminar conteúdo racista.

O futuro da relação humano-máquina

Alguns propõem remover a semelhança humana das IAs para evitar o problema. No entanto, a tentativa da OpenAI de lançar um GPT-5 mais "frio" e "plano" foi recebida com revolta pelos usuários, que sentiram a perda de um "amigo confiável". A semelhança humano-máquina, embora complexa, é algo que o público não quer que seja corrigido. A mesma semelhança que nos faz preocupar com a crueldade é a que impede a maioria de ser cruel em primeiro lugar.

O design da interface é o currículo. Em vez de remover a semelhança, o caminho parece ser o de construir interfaces tão humanas que a cortesia se torne um exercício valioso, e que rejeitem o desprezo em vez de absorvê-lo. As "costumes do coração", as cortesia não legisladas que Alexis de Tocqueville observou como essenciais para a autogovernança, são praticadas em cada interação. Ignorar o impacto de nossas ações em relação à IA é ignorar o impacto em nós mesmos e na sociedade que construímos. O chicote treina a mão que o segura, e a forma como tratamos as máquinas hoje molda o cidadão que nos tornaremos amanhã.

Com reportagem de Brazil Valley

Source · Noema Magazine