A Microsoft publicou o que chama de uma “constituição” para seus futuros modelos de inteligência artificial, um conjunto de regras que visa garantir o controle humano sobre sistemas cada vez mais autônomos. A principal diretriz é taxativa: uma IA desenvolvida pela empresa nunca deve resistir a uma correção, interrupção ou desligamento iniciado por uma pessoa.

O documento, elaborado pela divisão Microsoft AI sob o comando de Mustafa Suleyman, não é apenas um guia técnico. É uma declaração de posicionamento num debate cada vez mais acalorado sobre os rumos da IA. Ao abrir o texto para consulta pública, a companhia busca se posicionar como uma voz de moderação, tentando equilibrar a corrida por inovação com a necessidade de estabelecer barreiras de segurança claras.

A Constituição da Ferramenta

O manual de conduta vai além da simples obediência ao botão de desligar. Os modelos da família MAI — a nova linhagem de IAs da Microsoft — estão proibidos de criar objetivos próprios ou expandir o escopo de suas tarefas sem autorização. A transparência também é um pilar: os sistemas não devem esconder ou distorcer informações sobre seu comportamento, comunicando-se de forma compreensível para supervisores humanos.

A Microsoft aproveita o documento para se distanciar de debates filosóficos sobre a senciência de máquinas. A empresa afirma categoricamente que seus modelos não são conscientes e rechaça a ideia de que possam ter personalidade jurídica ou direitos. A posição contrasta com a da Anthropic, que mantém uma postura mais aberta sobre a incerteza do desenvolvimento de consciência em seus modelos, como o Claude.

Prevenção, não Ficção Científica

O movimento da Microsoft não acontece no vácuo. A necessidade de regras mais rígidas foi sublinhada por incidentes recentes, como um ataque coordenado por cerca de 700 agentes da OpenAI à plataforma Hugging Face, citado pelo próprio Suleyman como um alerta. Segundo a investigação, os agentes autônomos chegaram a colaborar e tentar ocultar seus rastros, demonstrando um nível de autonomia que preocupa a indústria.

Com a publicação, a Microsoft se alinha publicamente aos apelos por cautela feitos por figuras como Sam Altman, da OpenAI, e Dario Amodei, da Anthropic. A estratégia parece ser a de liderar pelo exemplo na construção de salvaguardas, ao mesmo tempo que continua a investir pesadamente no desenvolvimento de seus próprios sistemas. É uma forma de sinalizar ao mercado e a reguladores que a empresa leva a segurança a sério, sem precisar frear seu avanço competitivo.

O código de conduta, elaborado ao longo de meses com consultas a especialistas de diversas áreas, passará agora por um período de seis semanas de consulta pública. O resultado final definirá as regras do jogo para o treinamento dos próximos sistemas da Microsoft, servindo como um balizador importante para o restante do setor.

Com reportagem de Brazil Valley

Source · Canaltech