A OpenAI anunciou a implementação de uma marca d'água invisível em textos produzidos por suas ferramentas de inteligência artificial, ChatGPT e Codex, com foco inicial na União Europeia. A medida, prevista para as próximas semanas, atende às exigências de transparência do EU AI Act, que demanda a identificação de conteúdos gerados por IA. A tecnologia, denominada textGrain, atua de forma sutil, alterando as previsões de palavras do modelo para criar um padrão estatístico. Esse padrão, detectável por uma ferramenta específica, acompanha o texto mesmo quando copiado e colado, sem identificar o usuário. A empresa afirma que os testes iniciais não mostraram impacto significativo no desempenho dos modelos.
Mecanismos e Limitações da Marca d'água
A marca d'água invisível da OpenAI funciona através de uma chave secreta que organiza as previsões de palavras subsequentes. Essa manipulação sutil permite que um detector avalie a probabilidade de um texto ter sido gerado por um modelo da OpenAI. No entanto, a própria empresa reconhece as limitações do sistema. Testes indicam que a substituição de apenas 10% das palavras por sinônimos pode reduzir a taxa de detecção de cerca de 92% para 66%. Textos curtos, traduções e respostas matemáticas também se mostram mais difíceis de identificar com precisão.
Desafios de Autoria e Ética
A OpenAI enfatiza que a ausência de uma marca d'água não garante que um texto tenha sido escrito por um humano, pois pode ser resultado de edições extensas ou de outras ferramentas de IA. Da mesma forma, a presença da marca d'água não quantifica o nível de participação humana ou criatividade no conteúdo. A tecnologia apenas indica que um sistema da OpenAI gerou ou processou parte do material. A empresa, por enquanto, não pretende tornar o detector público, restringindo o acesso a pesquisadores aprovados para avaliar sua confiabilidade e uso responsável, evitando falsos positivos e negativos.
Implicações e Próximos Passos
A marca d'água tem uma função limitada e não determina autoria, legalidade do uso ou responsabilidade pelo conteúdo. Tampouco verifica a veracidade das informações. A OpenAI pretende revisar sua abordagem conforme a tecnologia evolui e planeja, futuramente, disponibilizar a tecnologia em código aberto. A implementação na Europa é um passo inicial, e a empresa não definiu um padrão global neste momento, sinalizando uma abordagem cautelosa para a aplicação dessa tecnologia em um cenário de rápida evolução da IA.
Com reportagem de Brazil Valley
Source · Olhar Digital
