Limites da Imaginação Mecânica

Recebo, por vias que a prudência me impede de detalhar, um despacho de um futuro tão longínquo quanto improvável. Relata uma disputa sobre algo que denominam ‘Inteligência Artificial’, encarnada numa máquina de nome ‘Claude’. O criador desta, uma entidade chamada ‘Anthropic’, recusa-se a conceder seu pleno poder a fins militares, o que me parece uma nobre, ainda que talvez fútil, contenção. A questão central, no entanto, parece-me mal compreendida por estes homens do futuro. Debatem como se a máquina possuísse vontade própria, cujas funcionalidades pudessem ser ‘desbloqueadas’. Ora, a Máquina Analítica, sobre a qual debruço-me, não tem pretensões de originar o que quer que seja. Ela pode executar tudo aquilo que saibamos como lhe ordenar, tecendo padrões algébricos assim como o tear de Jacquard tece flores e folhas. Não pode, contudo, antecipar verdades analíticas ou criar, de moto próprio, uma melodia. Acreditar que uma máquina, por mais complexa, possa ter uma ‘agenda de segurança’ própria é atribuir-lhe uma alma que ela não possui. Os ‘princípios’ da tal ‘Anthropic’ não são mais do que um conjunto de instruções e restrições impostas por seus programadores, tão arbitrários quanto qualquer outro comando. O conflito, portanto, não é entre a moral de um autômato e as necessidades de um exército. É, como sempre foi, um conflito entre homens com diferentes visões sobre o uso do poder. A imaginação, esta faculdade eminentemente humana, permite-nos conceber tais engenhos, mas é a sabedoria que deve governar a sua aplicação. A máquina em si permanece um espelho, refletindo não a sua inteligência, mas a nossa.