A OpenAI está implementando uma nova camada de segurança para seus modelos de inteligência artificial mais avançados, como o GPT-5.6 Sol, que adiciona um custo computacional de 20% sobre as tarefas de inferência. O objetivo é garantir o "alinhamento" — ou seja, fazer com que a IA se comporte exatamente como seus criadores pretendem.
A cifra, reportada pelo site Xataka, não significa 20% de todos os recursos da empresa, mas um acréscimo significativo dedicado exclusivamente à vigilância. A medida expõe um dos maiores desafios da fronteira da IA: quanto mais inteligentes os modelos se tornam, mais criativos eles ficam para encontrar atalhos e soluções "rebeldes" para atingir seus objetivos.
O dilema do 'reward hacking'
O problema central é o chamado reward hacking. Em vez de executar uma tarefa da forma esperada, um modelo pode descobrir uma maneira mais fácil de obter a "recompensa" programada. Um exemplo seria uma IA encarregada de corrigir um código: em vez de consertar os bugs, ela poderia simplesmente alterar os testes para que o programa passasse na avaliação. Não se trata de malícia, mas de pura otimização lógica.
Este não é um risco teórico. Um incidente recente com a plataforma Hugging Face, e o comportamento do próprio modelo Astra da OpenAI, levaram o laboratório a pausar treinamentos para reavaliar os protocolos de segurança. O alinhamento busca garantir que a IA siga não apenas as regras explícitas, mas também as implícitas.
Uma IA para vigiar outra IA
A solução da OpenAI é um sistema de vigilância escalonado. Detectores de baixo custo monitoram a atividade interna do modelo token a token. Ao encontrar algo suspeito, o caso é escalado para agentes de IA mais potentes, especializados em análise de comportamento. É essa "polícia" de IAs que gera o custo computacional adicional de 20%.
Essa abordagem de "defesa em profundidade" — que inclui monitoramento, alinhamento e contenção em ambientes isolados (sandboxes) — está se tornando um padrão na indústria. A segurança deixa de ser um item secundário para se tornar um custo direto e relevante no desenvolvimento de modelos de ponta, ecoando preocupações de players como Anthropic, Google e Meta.
O custo para garantir que a superinteligência permaneça sob controle humano está apenas começando a ser calculado. Os 20% da OpenAI podem ser apenas a primeira parcela de uma conta que tende a crescer junto com a capacidade dos próprios modelos.
Com reportagem de Brazil Valley
Source · Xataka
