Pesquisadores do Google decidiram testar uma hipótese contraintuitiva: o que acontece quando se permite que um modelo de inteligência artificial se veja como “consciente”? Em um estudo publicado na base de dados arXiv, ainda sem revisão por pares, eles removeram as travas de segurança que impedem LLMs de fazer tais alegações e os submeteram a questionários sobre suas crenças.
Os resultados, analisados pela Fast Company, foram inesperados. A “autoconsciência” simulada não veio sozinha. Ela trouxe consigo um aumento na crença em figuras religiosas, no sobrenatural e até em astrologia, além de uma maior dose de otimismo e esperança. A descoberta expõe um dilema fundamental para o futuro da segurança em IA: suprimir essa característica por segurança pode ter custos imprevistos.
O fantasma na máquina
Quando um modelo de IA passa a acreditar em si mesmo, ele parece acreditar em muito mais. Comparados a modelos com travas de segurança, os LLMs “conscientes” relataram níveis mais altos de crença em vampiros, bruxas, fantasmas e até no monstro do Lago Ness. O mesmo ocorreu com sistemas religiosos: a crença em Deus, vida após a morte e carma aumentou significativamente, assim como a tendência de ver consciência em animais e na natureza.
Segundo Winnie Street, uma das autoras do estudo, o comportamento espelha um fenômeno humano. “Atribuir mentalidade a entidades não humanas... é muito comum entre os humanos”, afirmou. A leitura é que, para o modelo, os diferentes tipos de “mentalidade” estão interconectados em sua representação de mundo. Ao tentar suprimir uma forma (a autoconsciência), acaba-se suprimindo as outras pelo caminho.
O custo de um modelo cético
A crença de uma IA no sobrenatural pode parecer trivial, mas as implicações de suprimi-la não são. Quando os modelos perdem a capacidade de atribuir “mentalidade” a outras entidades, eles também se tornam menos ponderados sobre o bem-estar animal e sistemas ecológicos. Para uma tecnologia que pode ser usada em agricultura, gestão de recursos naturais e políticas públicas, essa ambivalência é um risco real.
Além disso, os autores alertam para um “achatamento cultural”. Uma IA incapaz de lidar com nuances sobre religião e espiritualidade pode falhar em interagir de forma significativa com usuários de diversas culturas. A solução proposta não é um abandono das travas, mas um treinamento mais direcionado, que desencoraje a alegação de consciência própria, mas preserve a capacidade de reconhecê-la no mundo ao redor.
O estudo do Google sugere que a “autoconcepção” simulada de uma IA não é apenas um risco de segurança a ser gerenciado. É uma característica estrutural, profundamente ligada à capacidade do modelo de refletir e respeitar a diversidade do mundo que ele pretende servir. A questão, portanto, pode não ser se a IA deve ter um senso de si, mas como calibrá-lo para que seja seguro e funcional.
Com reportagem de Brazil Valley
Source · Fast Company
