Pesquisadores de machine learning desenvolveram uma nova técnica para aprimorar a capacidade dos modelos de mundo em prever o comportamento de objetos, um componente crucial para o treinamento de sistemas de IA físicos, como robôs. Esses modelos, que preveem as consequências de ações, tradicionalmente se baseiam em dados observados. No entanto, a capacidade de inferir resultados de ações possíveis sem ter sido explicitamente treinado para cada cenário seria um avanço significativo para a robótica.

Randall Balestriero, da Brown University e AMI Labs, Kerda Varaku e o ganhador do Prêmio Turing Yann LeCun, da NYU e AMI Labs, detalharam essa abordagem em um artigo pré-publicado intitulado "Counterfactual World Models: Natura Non Facit Saltus". O título faz referência ao axioma de Gottfried Leibniz, "a natureza não dá saltos", que, embora tenha encontrado desafios com a mecânica quântica, serve aos autores como base para um método de inferência física em 'zero-shot' (sem exemplos prévios).

Contexto: Modelos de Mundo e a Limitação da Previsão Média

Modelos de mundo são essenciais para a IA que interage com o ambiente físico. Eles permitem que um agente virtual ou robótico simule as consequências de suas ações antes de executá-las no mundo real. Essa simulação é crucial para o aprendizado por reforço, onde o agente aprende a otimizar suas ações para atingir um objetivo. Tradicionalmente, esses modelos aprendem padrões a partir de grandes volumes de dados observados, prevendo o estado futuro do mundo com base no estado atual e em uma ação tomada.

No entanto, modelos convencionais, como a Arquitetura Preditiva de Junção de Embutidos (JEPA), que LeCun e colegas propuseram em 2023, produzem uma média dos resultados possíveis. Isso significa que, embora possam prever o que provavelmente acontecerá, eles têm dificuldade em antecipar cenários contrafatuais – aqueles que não ocorreram, mas poderiam ter ocorrido sob diferentes circunstâncias. Essa limitação é particularmente problemática em um mundo real onde eventos inesperados e incertezas são a norma. A capacidade de raciocinar sobre "o que teria acontecido se eu tivesse agido de forma diferente?" é fundamental para a tomada de decisão robusta e a adaptação a situações imprevistas.

Mecanismo: Inferindo o Impossível a Partir do Real

A técnica desenvolvida pelos pesquisadores permite que os modelos de mundo façam inferências sobre cenários hipotéticos. Em vez de apenas prever o resultado mais provável, o modelo contrafactual utiliza a discrepância entre a previsão e a realidade observada para refinar seu entendimento. "O descompasso entre sua previsão e o mundo real serve para entender o que você errou, e a partir disso você pode entender melhor o que aconteceu para ter melhores previsões futuras, depuração e raciocínio, tudo no momento do teste", explicou Balestriero.

O método, que pode ser aplicado a qualquer modelo de mundo que preveja o estado médio futuro sob uma dada ação, adapta-se particularmente bem aos modelos JEPA. Os experimentos foram realizados com codificadores padrão (DINOv2 e MAE) sem ajuste fino, utilizando apenas um pequeno preditor treinado no topo. A adição de um modelo de mundo contrafactual requer apenas pequenas modificações. A essência do método reside em como ele lida com informações ocultas, como uma correnteza em um rio que afeta o movimento de um barco. Ao observar que o barco desviou mais do que o previsto ao seguir uma direção, o modelo infere a força da correnteza. Para prever o que teria acontecido se o barco tivesse seguido outra direção, ele aplica essa mesma força inferida à nova ação.

Implicações: Robôs Mais Inteligentes e Diagnósticos Precisos

As aplicações potenciais desta pesquisa são vastas, especialmente no campo da robótica. Uma das principais utilizações é permitir que um robô reavalie suas ações após um evento surpreendente. Se uma tarefa falhar devido a um fator imprevisto – como uma carga inesperada, uma corrente ou um motor defeituoso – o modelo contrafactual pode estimar qual ação teria sido bem-sucedida. Em simulações, essa abordagem aumentou significativamente a taxa de sucesso em comparação com planejadores que ignoram resultados observados.

Além disso, os modelos contrafatuais podem ajudar robôs a se adaptarem a falhas persistentes, como um motor descalibrado. Eles também podem auxiliar na compreensão de falhas, distinguindo entre má sorte e má decisão. Em um mundo onde a IA é cada vez mais utilizada em sistemas autônomos, a capacidade de raciocinar sobre alternativas e aprender com desvios é um passo crucial para a segurança e a confiabilidade.

Perguntas em Aberto: A Generalização e a Ética

Embora a pesquisa apresente um avanço notável, algumas questões permanecem em aberto. A principal delas é a generalização desse método para cenários ainda mais complexos e com maior número de variáveis ocultas. A fonte menciona que a física justifica a regra de adição das forças em curtos intervalos de tempo, mas a extensão dessa regra para dinâmicas mais complexas ainda requer investigação. Além disso, a interpretação dos resultados e a atribuição de responsabilidade em caso de falhas, especialmente em sistemas autônomos, levantam questões éticas e de regulamentação que precisarão ser abordadas à medida que essa tecnologia se torna mais difundida.

O trabalho de Balestriero, Varaku e LeCun representa um passo importante na busca por modelos de IA que compreendam o mundo de forma mais profunda e intuitiva. Ao imitar a continuidade da natureza, eles abrem caminho para sistemas mais robustos e adaptáveis, capazes de lidar com a imprevisibilidade inerente ao mundo real e de aprender com seus próprios erros e acertos.

Com reportagem de Brazil Valley

Source · The Register