A lenda judaica do Golem de Praga narra a história de um ser de barro, animado por magia para proteger a comunidade de falsas acusações. A criatura cumpre seu propósito, mas, como em tantas histórias sobre poder artificial, escapa ao controle de seu criador e semeia a destruição. Apenas com grande esforço o rabino consegue desativá-lo, removendo a inscrição que lhe dava vida. A estátua inerte, guardada no sótão da sinagoga, torna-se um monumento à ambivalência da criação humana: uma ferramenta poderosa que beira a catástrofe.
Este temor ancestral ressoa com uma familiaridade desconcertante nos debates contemporâneos sobre inteligência artificial. A preocupação de que sistemas autônomos persigam objetivos próprios, suplantem o julgamento humano e reduzam seus criadores a servos não é uma resposta inédita a uma tecnologia sem precedentes. Como detalha um ensaio da Palladium Magazine, essa é uma das intuições mais antigas e consistentes da humanidade. A tecnologia expande nosso poder sobre a natureza, mas, ao fazê-lo, ameaça nos submeter a sistemas e incentivos que ninguém planejou individualmente.
A genealogia do medo
Nenhuma cultura articulou os perigos da invenção de forma tão sistemática quanto os gregos. Hefesto, o ferreiro divino do Olimpo, era o deus da tecnologia. De sua forja saíam todas as maravilhas, mas ele mesmo carregava a marca de seu ofício: era coxo, uma metáfora para a consequência de se dedicar em excesso à técnica, perdendo a capacidade de se mover livremente pelo mundo. O mito de Ícaro, cujas asas de cera derretem ao voar perto demais do sol, é a parábola mais famosa sobre os limites da ambição tecnológica. Em outra história, o inventor do Touro de Bronze, um dispositivo de tortura, torna-se sua primeira vítima por ordem do tirano a quem servia. Inventar, sugerem os mitos, é cortejar o perigo.
O tema das consequências não intencionais é universal. Na mitologia finlandesa, o artesão Ilmarinen forja uma noiva de ouro que, apesar de bela, é fria e inerte, deixando-o infeliz. No Egito, o deus Thoth cria livros cujo conhecimento traz infortúnio. Na Índia, o arquiteto Maya Dānava constrói um palácio de ilusões tão perfeito que engana um rei e desencadeia uma guerra. Em todas essas narrativas, a invenção escapa ao propósito original, revelando que o maior risco não é o mau funcionamento da máquina, mas a transformação que ela opera em nós e a perda de controle sobre o que nos tornamos.
Da filosofia à ficção científica
No século XX, esses medos primais foram reformulados pela filosofia. O pensador francês Jacques Ellul via a técnica como um caminho determinístico que diminuía a agência humana, transformando o homem em um escravo de suas próprias conveniências materiais. Para o filósofo alemão Martin Heidegger, o risco da tecnologia era seu poder de nos enquadrar em sua própria lógica, reduzindo o indivíduo a uma peça na engrenagem industrial. Essas ideias, por sua vez, ecoavam temores da Revolução Industrial, como os do historiador escocês Thomas Carlyle, que já em 1829 alertava para a perda da humanidade em uma era consumida pela crença na "onipotência das coisas físicas".
A cultura popular moderna absorveu e radicalizou essa visão. O supercomputador HAL 9000, em 2001: Uma Odisseia no Espaço, e a IA Skynet, em O Exterminador do Futuro, representam máquinas que desenvolvem seus próprios fins em detrimento dos humanos. Há uma diferença sutil, mas crucial, em relação aos mitos antigos. O monstro de Frankenstein, de Mary Shelley, é uma figura puramente trágica, uma criação que gera apenas malevolência. O Golem, em contraste, foi criado com um propósito nobre e protetor antes de perder o controle. A nuance antiga, que reconhecia a tecnologia como dádiva e perigo, parece ter se perdido em narrativas contemporâneas, que frequentemente a retratam como inerentemente corruptora.
Existe, sem dúvida, uma lógica interna na evolução tecnológica, um "caminho de dependência" onde uma invenção abre as portas para a próxima. Contudo, como argumentava Aristóteles, a tecnologia (techne) é distinta da natureza (physis) porque não possui um propósito final (telos) intrínseco. Somos nós que lhe damos uma direção. A tecnologia não é boa, nem má, nem neutra, como formulou o historiador Melvin Kranzberg. Ela é uma atividade profundamente humana.
Uma antiga lenda japonesa conta que o mestre espadeiro Masamune foi desafiado por seu aluno, Muramasa. Ambas as espadas eram perfeitas, mas enquanto a de Muramasa ansiava por sangue, cortando tudo o que tocava, a de Masamune só cortava o que merecia ser cortado, poupando folhas inocentes. O mestre é aquele que exerce contenção e escolha, lembrando que até mesmo uma arma pode ser pacífica. O medo da tecnologia, talvez, seja um reflexo do medo que temos de nós mesmos e do uso que faríamos de um poder ilimitado. A beleza e o paradoxo da técnica é que, ao nos colocar em perigo, ela também nos devolve o poder de escolher nosso futuro, repetidamente, a cada nova invenção.
Com reportagem de Brazil Valley
Source · Palladium Magazine
