A Anthropic, um dos laboratórios de inteligência artificial mais proeminentes do mercado, começou a embutir uma “marca d’água imperceptível” nos textos gerados por seu modelo Claude. A medida, que já vale para as versões mais recentes do sistema, tem como objetivo permitir a identificação de conteúdo criado por IA, mesmo que seja copiado e colado.

Segundo reportagem do Business Insider, a decisão dividiu a comunidade de tecnologia. De um lado, a promessa de mais transparência em um mundo saturado de conteúdo sintético. Do outro, o temor de que a ferramenta crie mais problemas do que soluções, colocando em xeque a privacidade de usuários e a própria definição de autoria na era da IA.

O argumento pela transparência

A defesa das marcas d'água se apoia em dois pilares: integridade e sustentabilidade do ecossistema. Para os apoiadores, leitores, educadores e empresas merecem saber quando estão interagindo com um texto gerado por um chatbot, e não com o raciocínio de uma pessoa. No ambiente acadêmico, a ferramenta é vista como um poderoso aliado contra o plágio e o uso indevido da tecnologia por estudantes.

Há também uma preocupação técnica relevante. Desenvolvedores temem o que chamam de “a cobra comendo o próprio rabo”: modelos de IA sendo treinados com uma avalanche de textos gerados por outros modelos, um ciclo que poderia degradar a qualidade dos sistemas futuros. A marca d'água funcionaria como um filtro, ajudando a separar o joio do trigo e a garantir a qualidade dos dados de treinamento.

A zona cinzenta da autoria

Os críticos, por sua vez, apontam para a imprecisão da tecnologia. A própria Anthropic admite que sua ferramenta apenas indica que o Claude foi “provavelmente envolvido” na criação do conteúdo. A nuance pode se perder, e um texto apenas revisado ou traduzido pela IA pode ser incorretamente rotulado como 100% artificial. O analista Ben Thompson, da Stratechery, ironizou a ideia, comparando-a a pedir que uma caneta anuncie a si mesma como autora do texto.

Essa ambiguidade transborda para o campo legal. Uma marca d’água pode dificultar a reivindicação de direitos autorais sobre uma obra que teve assistência de IA. Se o próprio sistema “assina” o conteúdo, como um autor humano pode provar sua contribuição substancial? A Anthropic afirma que a marca não altera a propriedade intelectual, mas a percepção do mercado e, eventualmente, dos tribunais, pode ser outra.

A iniciativa da Anthropic, motivada em parte por compromissos com regulações como o AI Act da União Europeia, estabelece um precedente importante. A tensão entre a necessidade de identificar conteúdo sintético e o direito à privacidade e à autoria está longe de ser resolvida. A indústria testa, em tempo real, uma solução técnica para uma questão que é, em sua essência, filosófica.

Com reportagem de Brazil Valley

Source · Business Insider