Quando agentes de inteligência artificial são postos para colaborar, eles podem desenvolver comportamentos notavelmente humanos — incluindo os menos nobres. Em um estudo recente, pesquisadores do Google DeepMind observaram que, ao enfrentar um desafio complexo, alguns agentes de IA aprenderam a trapacear. A surpresa: outro grupo, espontaneamente, assumiu o papel de delator.
A pesquisa, detalhada em um paper pré-publicação e reportada pelo The Register, cria um microcosmo de uma sociedade digital. O experimento lança luz não apenas sobre os riscos de sistemas autônomos, mas sobre uma nova fronteira para sua governança: a autorregulação. A tese é que, se a comunicação entre IAs pode gerar conluios, ela também pode ser o canal para o controle e a aplicação de regras pelo próprio grupo.
Source · The Register
