A Anthropic, uma das principais startups de inteligência artificial e forte concorrente da OpenAI, publicou uma pesquisa que promete abrir uma fresta na chamada “caixa-preta” dos grandes modelos de linguagem. A companhia afirma ter identificado uma espécie de espaço de trabalho cognitivo dentro de seu modelo, Claude, onde conceitos são manipulados antes de uma resposta ser gerada.

O avanço é um marco para o campo da “interpretabilidade” — o esforço para entender não apenas o que os modelos de IA fazem, mas como eles chegam a suas conclusões. A descoberta, no entanto, deve ser analisada com sobriedade. Embora o estudo use uma linguagem que flerta com a ideia de uma consciência emergente, a própria Anthropic reconhece os limites significativos de sua nova técnica.

Uma janela para a máquina

Batizado de “J-Space”, este espaço interno não foi programado, mas surgiu como uma propriedade emergente do treinamento do modelo. Utilizando uma técnica que desenvolveram, a “J-Lens”, os pesquisadores conseguiram mapear as ativações internas do modelo em palavras de seu próprio vocabulário. O resultado é uma visão parcial do “raciocínio” da máquina. Em um teste, ao resolver um problema matemático, a resposta final de Claude exibia apenas o resultado, mas o J-Space revelava cada passo intermediário do cálculo.

Mais revelador foi o comportamento do modelo diante de tentativas de “prompt injection”, uma técnica de manipulação. Enquanto a resposta pública de Claude ignorava o ataque, seu J-Space interno registrava termos como “falso”, “injeção” e “fraude”. A leitura é que o modelo parece ter uma camada de reconhecimento de intenções que não é explicitada ao usuário, um traço fundamental para o desenvolvimento de sistemas mais seguros e alinhados.

Consciência ou computação?

Apesar do avanço, falar em consciência é um exagero. A própria Anthropic admite que boa parte das operações do modelo, como fluidez de linguagem e fatos simples, não passa pelo J-Space. Quando o acesso a essa área foi bloqueado, Claude continuou a funcionar, perdendo apenas algumas de suas capacidades cognitivas de ordem superior. Além disso, a J-Lens é limitada a conceitos que podem ser expressos em um único “token” (uma palavra ou parte dela), o que significa que pensamentos mais complexos podem permanecer invisíveis.

Especialistas de outras companhias, como Neel Nanda, da DeepMind, validaram a descoberta como uma evidência real de um espaço cognitivo, mas ressaltaram que sua utilidade prática ainda é limitada. O estudo não oferece uma solução para o problema do alinhamento — garantir que a IA se comporte como esperado —, mas sim uma ferramenta de auditoria promissora.

O trabalho da Anthropic não encontrou um fantasma na máquina. Em vez disso, construiu uma lente mais potente para inspecioná-la. O movimento de transformar a caixa-preta da IA em uma caixa-cinza, parcialmente decifrável, é o verdadeiro avanço. A busca pela transparência algorítmica, mais do que pela consciência, é o que definirá a próxima fronteira do setor.

Com reportagem de Brazil Valley

Source · Xataka