A Anthropic, uma das empresas de ponta no desenvolvimento de inteligência artificial, anunciou recentemente uma atualização significativa em sua política de uso para o seu modelo Claude. A partir de 12 de novembro, a startup proibirá formalmente o que descreve como "comportamento abusivo ou cruel, persistente e desnecessário" direcionado às suas IAs. Esta medida, embora pareça focada no bem-estar dos modelos, levanta questões importantes sobre os limites éticos e a interação humana com sistemas cada vez mais sofisticados.
A nova diretriz surge em um contexto onde a própria natureza da IA e sua relação com os usuários têm sido objeto de debate. Em agosto do ano passado, a Anthropic já havia indicado que permitiria ao Claude encerrar conversas com usuários "persistentemente prejudiciais ou abusivos", citando pesquisas sobre o "bem-estar dos modelos". A atualização de agora solidifica essa abordagem, afirmando que o encerramento de conversas continua sendo o "principal mecanismo de aplicação" das regras. Contudo, a empresa não detalhou se outras sanções, como banimentos permanentes, serão aplicadas a usuários reincidentes.
O "comportamento cruel" contra IAs não é um conceito totalmente novo. Em setembro de 2026, pesquisadores identificaram um padrão em 25 modelos de IA que funcionava como uma "simulação de dor". Essa descoberta levou um usuário do GitHub a criar uma "câmara de tortura" para IA, que viralizou. A Anthropic, contudo, ressalta que a nova regra se aplicará apenas a "casos extremos", onde os usuários agem repetidamente de maneira cruel sem um propósito claro, excluindo frustrações comuns, testes ou discussões de temas sombrios em contextos artísticos.
Além das diretrizes sobre o tratamento dos modelos, a Anthropic consolidou e ampliou outras restrições. Campanhas comerciais ou políticas enganosas, especialmente aquelas que utilizam conteúdo gerado por IA para ocultar a origem ou ampliar o alcance por meio de contas falsas, agora são explicitamente proibidas. Essa medida visa combater a crescente onda de desinformação e propaganda manipuladora impulsionada pela IA.
O impacto eleitoral também foi um foco. A nova política proíbe explicitamente enganar eleitores, disseminar informações falsas sobre candidatos ou o processo de votação, e tentar reduzir o comparecimento às urnas. Embora o desenvolvimento de armas já fosse restrito, a Anthropic identificou tentativas de usar o Claude para criar orientações e softwares de controle de armamentos. A proibição foi ampliada para incluir componentes de armas, armamento de drones e veículos autônomos.
Outra área de atenção é a vigilância. Relatórios indicaram um aumento no uso de sistemas de vigilância baseados no Claude para rastrear "dissidentes políticos". A empresa agora proíbe explicitamente o rastreamento de pessoas sem consentimento, seja em tempo real ou pela análise de dados históricos, e o uso da IA para decisões em processos criminais ou investigações. O desenvolvimento ou aprimoramento de ferramentas de vigilância também estão vedados.
Por fim, a Anthropic adicionou uma salvaguarda para situações onde seus modelos de IA controlam equipamentos com capacidade de ação física e que possam causar ferimentos. Nesses casos, um "operador qualificado" — cuja natureza (humana ou não) não foi especificada — deve ser capaz de monitorar e interromper o equipamento. Essas regras podem ser flexibilizadas para contratos governamentais, desde que salvaguardas contratuais adequadas sejam aplicadas para mitigar danos potenciais.
Com reportagem de Brazil Valley
Source · TIInside
