Fabrício Mainenti
RedatorA Anthropic anunciou que os modelos lançados na União Europeia desde 2 de agosto incorporarão uma marca d'água invisível nos textos gerados desde o primeiro dia, e a empresa implementará esse sistema globalmente no Claude, em sua API, no Claude Code e no Claude CoWork, entre outros.
Não se tratará de um rótulo visível ou de metadados que desaparecem quando o texto é colado em outro lugar. Isso permite que o sistema resista à edição de texto, mas — o que é fundamental — existem desvantagens.
A marca d'água não é uma garantia absoluta
A Anthropic visa facilitar algo que aguardamos há muito tempo: a identificação de textos gerados por IA. Isso ajudará a detectar tal conteúdo em plataformas e serviços de terceiros e é, de fato, uma exigência de transparência estabelecida pela Lei de IA da Europa (European AI Act).
No entanto, a própria empresa faz uma ressalva: a presença da marca d'água em um texto não prova que o Claude o escreveu — apenas que ele foi processado por esses modelos de IA. Essa distinção pode parecer pequena, mas é muito mais significativa do que aparenta.
Textos de autoria humana também podem acabar com a marca d'água
Imagine que alguém escreva um artigo inteiramente por conta própria e depois peça ao Claude para verificar a ortografia, traduzi-lo ou resumi-lo. Se a pessoa utilizar a versão resultante, esse texto conterá uma marca indicando que foi processado pelo Claude.
A Anthropic reconhece isso claramente: as ideias, os dados e até mesmo o texto original podem ter se originado inteiramente de outra pessoa. Esse é um ponto crucial, pois a marca d'água indica que o texto foi processado pelo Claude, e não necessariamente escrito por ele.
O processo funciona também no sentido inverso
A ausência da marca d'água do Claude não prova que um texto foi gerado por um humano. A Anthropic admite que a marca pode desaparecer se o texto passar por edições extensas, paráfrases, traduções ou mesclagem com outros textos, ou se for simplesmente muito curto. Além disso, a empresa ainda não divulgou o mecanismo técnico utilizado para detectar a marca d'água, portanto, os limites dessa capacidade de detecção permanecem desconhecidos.
Alguns desenvolvedores apontam um problema óbvio: se o objetivo for ocultar a marca, outro modelo poderia reescrever o texto até que esse sinal fosse destruído. A marca d'água da Anthropic é uma pista, não uma prova definitiva de nada.
Influenciando o resultado?
A Anthropic sustenta que a marca d'água não altera o significado, a qualidade ou a legibilidade das respostas; no entanto, a empresa não forneceu detalhes sobre como insere essa marca no texto. Alguns sistemas de marca d'água funcionam privilegiando determinados tokens em detrimento de outros, influenciando assim o resultado ideal.
Isso gera preocupações específicas no caso de códigos de programação, em que desenvolvedores poderiam ser forçados a atender a um requisito que nada tem a ver com a solução do problema do usuário.
Já vimos esse cenário há 30 anos
Ou, pelo menos, Steven Sinofsky, ex-chefe de desenvolvimento do Windows 8, viu. Ele comentou na rede social X como isso lhe lembrava os GUIDs que a Microsoft implementou em documentos do Office 97. Tratava-se de identificadores invisíveis, destinados originalmente a tarefas técnicas, mas que continham informações derivadas do endereço MAC da placa de rede.
Essas informações podiam ser combinadas com outros registros para — teoricamente — vincular um documento ao computador que o criou. A Microsoft acabou removendo esses identificadores após críticas sobre invasão de privacidade e chegou a lançar uma ferramenta para excluí-los de documentos existentes.
A Anthropic não está identificando os usuários
Não há evidências de que a atual marca d'água do Claude inclua nomes, detalhes da conta, prompts, localizações ou datas, e a documentação da empresa não faz tal afirmação. O paralelo traçado por Sinofsky é outro: uma vez que existe um rastro invisível e persistente em um conteúdo, é fundamental saber quem o controla e até onde seu alcance pode chegar.
No caso da Microsoft, um identificador criado para corrigir links quebrados acabou possibilitando vincular documentos a um hardware específico. Além disso, anos mais tarde, ele até ajudou a rastrear o criador do vírus Melissa.
Uma ideia boa, porém imperfeita
Cada vez mais, os textos são uma mistura de escrita humana e de máquina. O pesquisador Ian Miers, que trabalha com essa tecnologia desde 2024, observou no X que "a ideia de um texto puramente humano é uma relíquia", tornando cada vez mais difícil provar que um texto foi escrito exclusivamente por um ser humano.
Embora essa tecnologia possa ajudar a identificar conteúdos de baixa qualidade gerados em massa por IA e sem revisão, ela não responde a outra questão crucial: qual proporção do texto foi escrita por uma máquina em comparação com a pessoa que o publicou.
Ver 0 Comentários