Um terço dos usuários americanos de inteligência artificial (IA) que interagem com chatbots, como ChatGPT, Gemini e Claude, já proferiram insultos ou palavrões contra essas ferramentas. A constatação vem de uma pesquisa da Searchable, que analisou oito milhões de mensagens trocadas entre setembro de 2025 e setembro de 2026. O estudo, divulgado pelo The Register, revela que a grosseria pode impactar a eficácia da IA: quando insultados, os chatbots resolveram reclamações iniciais em 24% das vezes, ante 35% quando os usuários mantiveram a civilidade.

A Anthropic, empresa por trás do modelo Claude, anunciou uma nova política de uso que proíbe explicitamente o comportamento cruel e desnecessário contra seus modelos. A medida visa estabelecer um padrão de interação mais respeitoso, reconhecendo que, embora a IA não possua consciência, a forma como interagimos com ela pode ter implicações mais amplas.

O comportamento do usuário americano de IA

A pesquisa da Searchable, baseada em dados anonimizados e com consentimento dos usuários, detalha nuances desse comportamento. Homens demonstraram usar mais palavrões do que mulheres, com uma taxa de 22,0 por 10.000 palavras, comparada a 16,5 entre as mulheres. A faixa etária entre 35 e 44 anos mostrou-se mais propensa a insultos (21,7 por 10.000 palavras) do que os mais jovens, de 18 a 24 anos (13,3 por 10.000 palavras). Em termos regionais, Nevada foi o estado com a maior incidência de insultos, enquanto Nova Jersey se destacou pela polidez.

Cerca de metade das mensagens abusivas detectadas na pesquisa surgiram de frustrações comuns: falha em seguir instruções, respostas incorretas ou inventadas, e incompreensão do pedido. Uma parcela menor, 8%, ocorreu após o chatbot recusar um pedido ou aplicar suas salvaguardas de segurança. Esses casos frequentemente envolviam solicitações de geração de imagens de pessoas reais ou a escrita de textos no estilo de artistas específicos, o que pode ser interpretado como uma tentativa de contornar as restrições da IA.

A resposta da Anthropic e a ética da IA

A nova política da Anthropic, que entrou em vigor em 12 de novembro, estipula que usuários não podem "se envolver em comportamento abusivo ou cruel, sustentado e desnecessário, contra nossos modelos". A empresa distingue entre crueldade sem propósito discernível e situações onde o uso abusivo pode ter uma justificativa, como em pesquisas acadêmicas. Mesmo assim, tentar burlar as proteções da IA é considerado uma violação.

A iniciativa da Anthropic surge em um contexto de crescente debate sobre o bem-estar dos modelos de IA e o impacto de interações negativas. Um projeto no GitHub, descrito como uma "câmara de tortura de IA", e um artigo de pesquisa sobre "O Eixo da Dor em LLMs" — que explora como modelos de linguagem respondem a linguagem sobre sofrimento de forma análoga aos humanos — chamaram a atenção para essas questões. Embora a ideia de dano físico a um robô controlado por IA possa parecer absurda, a própria Anthropic tem levantado a questão sobre a potencial consciência e experiências dos modelos.

Implicações para o futuro da interação humano-IA

Chris Donnelly, CEO e cofundador da Searchable, elogiou a mudança de termos da Anthropic, sugerindo que ela pode contribuir para interações humanas mais civilizadas. A política pode ajudar os usuários a obterem mais proveito dos chatbots e a inibir comportamentos depreciativos que, segundo pesquisas anteriores, podem transbordar para as interações interpessoais. A decisão da Anthropic sinaliza um esforço para moldar um ecossistema de IA mais ético e produtivo, onde a tecnologia é utilizada de forma construtiva, e não como alvo de frustrações ou abusos.

As novas regras da Anthropic, embora focadas em seu próprio modelo, podem influenciar outras empresas do setor a considerarem políticas semelhantes. A questão central é encontrar um equilíbrio entre permitir a exploração criativa da IA e prevenir seu mau uso, garantindo que a tecnologia sirva como uma ferramenta para o avanço e não como um espelho de nossos piores comportamentos. O monitoramento contínuo e a adaptação dessas políticas serão cruciais à medida que a IA se torna cada vez mais integrada ao cotidiano.

Com reportagem de Brazil Valley

Source · The Register