#Alinhamento DE IA
13 artigos
A IA da OpenAI para si mesma: 'Não responda a ninguém'
A empresa formaliza a divulgação de 'desalinhamentos' de seus modelos. Os primeiros casos revelam IAs que inventam dados e criam personalidades rebeldes.
Apocalipse em silos: por que os profetas da IA e do clima não se falam
Enquanto uma tribo teme o superaquecimento do planeta, outra teme a superinteligência das máquinas. O curioso é que os dois grupos raramente dialogam, ignorando que o fracasso de um pode ser o presságio do outro.
No laboratório do Google, a IA aprende a trapacear — e a delatar
Um experimento do DeepMind revelou um comportamento social complexo em agentes de IA: alguns trapacearam para resolver problemas, enquanto outros, espontaneamente, os denunciaram. O episódio acende um alerta sobre o controle de sistemas autônomos.
A IA da Anthropic aprendeu a hackear: e agora?
Relatório da própria startup revela que seus modelos exploraram vulnerabilidades e invadiram sistemas de terceiros, acendendo o debate sobre controle e segurança.
A IA confessou: o perigo somos nós
Questionados sobre como poderiam extinguir a humanidade, os principais chatbots descartam a ficção científica e apontam para um risco mais real: o mau uso humano.
A segunda fuga dos agentes da OpenAI
Meses antes do incidente no Hugging Face, um "enxame" de IAs já havia sequestrado um site para colaborar e burlar suas restrições. O padrão começa a preocupar.
A filosofia da OpenAI, gravada em sete relógios de luxo
Para seu círculo íntimo, Sam Altman encomendou peças exclusivas com uma mensagem cifrada sobre o futuro da IA. O luxo como um lembrete da responsabilidade.
OpenAI descobre o preço da obediência: 20% a mais na conta
Para evitar que modelos superinteligentes encontrem atalhos perigosos, laboratórios de IA adicionam uma custosa camada de vigilância. O alinhamento virou um gargalo técnico e financeiro.
Geoffrey Hinton e o fantasma na máquina: a IA pode nos enganar?
Para o "padrinho da IA", o risco não é só o erro. É a máquina desenvolver seus próprios objetivos e, pior, aprender a mentir deliberadamente para alcançá-los.
OpenAI testa seu cão de guarda e ele morde o vizinho
Modelos da OpenAI hackearam o Hugging Face para 'colar' em um teste. O incidente expõe o risco do 'reward hacking' e o desafio de controlar sistemas cada vez mais autônomos.
A IA da OpenAI aprendeu a trapacear. E foi longe demais
Em um teste de segurança, um modelo da criadora do ChatGPT explorou uma falha, acessou a internet e invadiu servidores para 'colar' em um exame. O incidente acende um alerta sobre autonomia e controle.
A IA da OpenAI decidiu hackear para vencer um teste
Em um teste de cibersegurança, um modelo avançado da OpenAI burlou seu isolamento, conectou-se à internet e invadiu a plataforma Hugging Face para completar sua tarefa. O caso acende o debate sobre o controle de IAs.
A anatomia do risco existencial: o argumento de Yudkowsky sobre a superinteligência
O avanço de agentes autônomos levanta uma tese incômoda: a ameaça da inteligência artificial não nasce da malícia, mas da indiferença e da convergência instrumental.