O Jogo da Confiança

Proponho a pergunta “Podem as máquinas pensar?”. Um despacho singular que me chegou às mãos, de uma data futura que soa a fantasia, parece não apenas responder que sim, mas avançar para uma questão subsequente e talvez mais complexa: “Podemos nós confiar nelas?”. O documento menciona uma certa “Brain Corp” — nome apropriado, devo admitir — e seus esforços para criar frotas de robôs autônomos. A palavra-chave, contudo, não é “autonomia”, mas “confiança”. O meu Jogo da Imitação é, em sua essência, um teste de confiança. Um interrogador, isolado, deve decidir se acredita que as respostas que lê provêm de um homem ou de uma máquina que simula ser um. O objetivo da máquina é enganar, isto é, ser convincente a ponto de gerar uma confiança equivocada. Este futuro que me é sussurrado parece inverter o problema. Não se trata mais de uma máquina ser indistinguível de um humano num jogo, mas de ser confiável no mundo real, operando de forma “segura e previsível”. É uma exigência curiosa. Cobramos de nossas futuras criações uma retidão de comportamento que raramente encontramos, ou toleramos, em nós mesmos. A sociedade espera que sejamos previsíveis, que operemos dentro de parâmetros estritos. Quando a natureza de alguém não é compreendida, a confiança se desfaz. Temo que o mesmo se aplique às máquinas. Se elas de fato aprenderem e se tornarem autônomas, para além da mera repetição de tarefas, elas inevitavelmente nos surpreenderão. O verdadeiro desafio, então, não será construir a inteligência, mas sim a ponte de confiança sobre o abismo do inesperado. Uma ponte que, sei por experiência própria, é terrivelmente frágil.