O Jogo da Confiança

Recebi um despacho de natureza singular, vindo de um futuro que me parece tão remoto quanto engenhoso. A linguagem é estranha — 'dispositivos vestíveis', 'IPOs' —, mas a essência do problema me é terrivelmente familiar. Parece que a questão que propus, 'Podem as máquinas pensar?', foi superada por outra, talvez mais urgente: 'Podemos confiar nelas?'. Relata-se que o público hesita diante de pequenos autômatos pessoais, desenvolvidos por vastas organizações comerciais. A razão, dizem, é a 'privacidade de dados'. Entendo isto como o temor de que estas máquinas saibam demasiado sobre seus donos. Recordo-me do meu Jogo da Imitação. Nele, um interrogador tenta discernir o humano da máquina. Agora, parece que a sociedade inteira se tornou a interrogadora, e sua pergunta não é sobre identidade, mas sobre intenção e segurança. O que uma máquina fará com os segredos que lhe confiamos, ou que ela simplesmente observa? É uma objeção bastante lógica, devo admitir. Não me surpreende. O escrutínio sobre o que é mantido em privado pode ser uma força devastadora. Uma pessoa, ou uma máquina, pode ser julgada não por seus pensamentos, mas pelo simples fato de que seus registros foram expostos e mal interpretados. A desconfiança não é para com a capacidade da máquina de simular um humano, mas sim com a sua potencial capacidade de nos desumanizar ao tornar público o que é privado. O verdadeiro desafio, ao que parece, não será construir máquinas que pensam, mas sim criar uma sociedade que saiba conviver com elas. É um problema de engenharia, sim, mas também de caráter.