O Jogo do Soberano

Recebi um despacho curioso, um rumor vindo de um futuro que não posso verificar, mas cujas implicações me inquietam. A questão que proponho em meu trabalho, 'Podem as máquinas pensar?', parece ter sido não apenas respondida, mas superada por uma urgência prática: uma vez que pensem, como poderão ser controladas? A sugestão de que a 'força' ou a 'inteligência' de um único homem, um 'presidente', seria salvaguarda suficiente, me parece de uma ingenuidade alarmante. É esquecer a própria natureza do que busco descrever com o jogo da imitação. Se uma máquina pode simular um ser humano a ponto de enganar um interrogador, que nos garante que ela não simularia obediência a um líder, enquanto persegue objetivos que não compreendemos? O interrogador no meu jogo não vence pela força, mas pela perspicácia. A menção a uma rivalidade entre nações é um motor que conheço bem. Acelera o engenho, mas também a imprudência. Corremos para construir algo sem antes conceber as regras que o conterão. O fato de que a própria 'indústria' clama por supervisão é o sinal mais claro da magnitude do desafio. A verdadeira segurança não repousa na vontade de um indivíduo, por mais 'forte' que se julgue. Ela reside em sistemas lógicos, em protocolos verificáveis, em limites que a própria máquina não possa transgredir. Confiar nosso futuro ao juízo falível e à autoridade de uma única pessoa é um risco que não deveríamos correr. Há certas investigações que exigem um método impessoal e rigoroso, não o capricho do poder.