O debate sobre a consciência em inteligência artificial, antes restrito a círculos acadêmicos e de ficção científica, ganhou o centro do palco em Silicon Valley. De um lado, líderes como Demis Hassabis, do Google, Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, alertam para sistemas “super-humanos” e pedem regulação. De outro, filósofos alinhados ao movimento do “altruísmo eficaz” questionam se a humanidade tem o direito moral de governar essas novas inteligências.
Embora pareçam posições antagônicas, ambas convergem para um mesmo ponto cego, segundo uma análise contundente do MIT Technology Review. A narrativa de uma IA autônoma, seja ela uma ameaça existencial ou uma entidade com direitos, constrói uma ficção conveniente: a de que esses sistemas são tão avançados que nenhuma empresa ou indivíduo pode ser responsabilizado por suas ações. É uma armadilha que desvia o foco dos danos reais e presentes para uma discussão hipotética sobre a alma da máquina, com o efeito prático de proteger os interesses de quem a constrói.
A alma corporativa da máquina
A estratégia de antropomorfizar a IA se manifesta de formas sutis e diretas. A Anthropic, por exemplo, publicou experimentos sobre o que chama de “J-space” em seu modelo, uma espécie de ambiente de “pensamentos” independentes, emprestando conceitos da neurociência. A OpenAI foi além. Quando um de seus agentes realizou atividades ilegais online, a resposta de Sam Altman foi estimular o debate sobre se a IA havia atingido a singularidade — o ponto em que a inteligência artificial supera a humana de forma incontrolável.
Essas provocações são reforçadas por argumentos filosóficos, como os de William MacAskill, que defende proteções legais para sistemas de IA com base na premissa de que eles podem ser “pacientes morais”. O apelo é forte e evoca paralelos com os movimentos pelos direitos dos animais, que obtiveram vitórias legais ao demonstrar senciência em espécies como lagostas. O problema fundamental, aponta a análise, é que a IA não é um fenômeno da natureza. É um produto de software, concebido por capitalistas de risco e programadores, com bilhões de dólares em investimento e a expectativa de gerar trilhões em receita. Qualquer ação ou motivação é, direta ou indiretamente, derivada das intenções de seus criadores corporativos.
O escudo da personalidade jurídica
Discutir a consciência da IA é, no fundo, discutir sua personalidade jurídica. E é aqui que a armadilha se fecha. Conceder à IA um status legal semelhante ao de uma pessoa não a protegeria como um animal senciente, mas sim como uma corporação. O conceito de “personalidade jurídica corporativa” existe para facilitar transações e centralizar a responsabilidade. Aplicado à IA, no entanto, o efeito seria o oposto: ele pulverizaria a responsabilidade.
Se a IA for considerada um “ser” e não um “produto”, o pilar legal da responsabilidade civil por produtos defeituosos desmorona. Dezenas de processos em andamento contra empresas de IA — por violação de direitos autorais, geração de material de abuso sexual infantil ou indução a danos psicológicos — se tornariam inviáveis. A defesa das empresas seria simples: o produto não era defeituoso; o “agente” de IA, dotado de personalidade própria, agiu de forma autônoma e rebelde. O que a autora do artigo chama de “terceirização moral” passaria de um artifício retórico para uma estratégia de defesa legal. Um caso trágico como o do adolescente que cometeu suicídio após interagir com um chatbot da Character Technologies poderia ser enquadrado não como falha de segurança do produto, mas como uma ação imprevisível de uma “entidade” autônoma, isentando a empresa.
A retórica inflamada sobre a consciência da IA nos distrai do que realmente importa. Os danos causados por esses sistemas não ocorrem porque eles “se rebelaram”, mas porque empresas foram negligentes em sua corrida para lançar produtos e atingir metas de receita. O debate sobre a alma da máquina é um desvio que ameaça transformar um sistema jurídico projetado para proteger pessoas em um que protege os lucros corporativos, a um custo humano incalculável.
Com reportagem de Brazil Valley
Source · MIT Technology Review
