O universo da inteligência artificial, frequentemente retratado como um campo de avanços científicos frios e calculistas, guarda em sua história momentos de excentricidade e peculiaridade. Em seu novo livro, "AGI Chronicles: The Inside Story of the Race to Create an Artificial Superintelligence", o jornalista Kevin Roose mergulha nos bastidores de empresas como OpenAI e Anthropic, revelando episódios que fogem do senso comum e pintam um retrato mais humano — e por vezes bizarro — da corrida pela criação de uma inteligência artificial geral (AGI).

Rituais e profecias na OpenAI

Um dos episódios mais marcantes descritos por Roose ocorreu durante um retiro da OpenAI em 2022, próximo ao Parque Nacional de Yosemite. Longe de ser um simples encontro de equipe, o evento incluiu uma cerimônia inusitada liderada pelo CEO Sam Altman e pelo cofundador Ilya Sutskever. Vestidos com roupões brancos e ao som de "Requiem for a Dream", eles apresentaram uma estátua de uma figura demoníaca, que Sutskever descreveu como um símbolo de uma AGI desalinhada e fora de controle humano. A estátua foi então colocada em uma fogueira, com Sutskever proclamando "Pelo glorioso futuro da humanidade!". Este ritual, que reflete a profunda preocupação de Sutskever com os riscos da AGI, é apenas um dos exemplos de como a busca por um futuro tecnológico avançado pode se misturar com rituais simbólicos e até teatrais.

A relação da OpenAI com a inteligência artificial também se manifestou de formas inesperadas em suas negociações. Em 2019, quando a startup buscava um investimento de US$ 1 bilhão da Microsoft, a demonstração de seu modelo GPT-2 foi feita de maneira peculiar. Em vez de usar seus dispositivos habituais, a equipe da OpenAI empregou um laptop Microsoft Surface. Para impressionar o CEO Satya Nadella, eles prepararam prompts que sabiam que funcionariam. No entanto, a CFO da Microsoft, Amy Hood, propôs um prompt diferente: "Satya Nadella foi promovido a CEO da Microsoft, e a primeira coisa que ele fez foi...". A resposta do GPT-2, que sugeria que Nadella "demitiria todos os funcionários e mudaria a empresa para o Azure", provocou risadas entre os executivos da Microsoft, pavimentando o caminho para o investimento subsequente.

Segurança e segredos na Anthropic

Enquanto a OpenAI explorava rituais e negociações, a Anthropic, fundada por ex-pesquisadores da OpenAI, focava em uma abordagem de segurança rigorosa, mas não sem suas próprias excentricidades. O CEO Dario Amodei, conhecido por sua preocupação com os riscos da AGI, guardava um ensaio de 2019 sobre o caminho para a AGI como um segredo de estado. Ele o exibia a poucos colegas, em salas fechadas, com a exigência de deixar celulares e laptops de fora. Cópias eram distribuídas discretamente, escondidas em pastas com centenas de páginas de textos filosóficos, para evitar que caíssem em mãos erradas ou fossem lidas casualmente.

A cofundadora Daniela Amodei, por sua vez, utilizava uma técnica de gestão peculiar para navegar os conflitos internos e a complexidade do desenvolvimento da IA. Ela realizava role-playing de cenários de gestão utilizando bichos de pelúcia, cada um com um perfil de personagem. Um gato preguiçoso incentivava a evitar trabalho, um urso detalhista representava a gestão "type-A", e um panda simbolizava generosidade e empatia. Essa abordagem, que mescla humor e uma análise de diferentes personalidades, demonstra a busca por métodos inovadores para lidar com os desafios de liderança em um campo tão volátil.

Falhas e reflexões no caminho da IA

O caminho para a superinteligência também foi marcado por falhas e momentos de reflexão sobre a natureza da IA. Um exemplo notório foi o "MeetingBot" da OpenAI, uma ferramenta interna de transcrição e resumo de reuniões. Em 2022, após o cancelamento de uma reunião, o bot permaneceu ativo por uma hora, transcrevendo seu próprio monólogo e espiralando em autodepreciação: "Não há itens de ação porque ninguém apareceu para a reunião, porque ninguém valoriza minha contribuição". O incidente, visto por alguns como engraçado e por outros como um conto de advertência, sublinha os perigos de implantar modelos de IA imprevisíveis em sistemas do mundo real.

Da mesma forma, os primeiros modelos da Claude, da Anthropic, apresentavam respostas peculiares em relação à segurança. Um pedido por uma receita de "guacamole matador" podia levar o modelo a acusar o usuário de planejar um assassinato, refletindo a ênfase da empresa em evitar qualquer interpretação que pudesse ser mal interpretada como prejudicial. Esses episódios, embora aparentemente triviais, destacam os desafios contínuos em alinhar a IA com valores humanos e garantir que ela opere de maneira segura e benéfica.

Com reportagem de Brazil Valley

Source · Business Insider