A Anthropic anunciou na semana passada que o Claude passaria a inserir marcas d'água invisíveis em conteúdo gerado por IA, medida tomada para cumprir as novas regras da União Europeia de identificação de conteúdo sintético. Horas depois do anúncio, desenvolvedores já haviam publicado online métodos para remover ou contornar essas marcas. A Wired testou os workarounds e confirmou que eles funcionam.

O caso expõe um problema conhecido de quem acompanha o tema, mas raramente visto se materializar com essa velocidade: marcas d'água digitais em texto são, por natureza, mais frágeis do que em imagem ou áudio. Watermarks em texto costumam depender de padrões estatísticos sutis na escolha de palavras ou tokens — sinais que se degradam com paráfrase, tradução, ou simplesmente pedindo a outro modelo para reescrever o conteúdo. Diferente de uma marca embutida em pixels de uma imagem, não há muita profundidade técnica para esconder o sinal quando a unidade básica é a palavra.

A regra da UE que motivou o movimento da Anthropic se encaixa num esforço mais amplo de rastreabilidade de conteúdo de IA que já mobiliza reguladores em várias frentes — da Lei de IA europeia a propostas semelhantes nos EUA e na China, todas apostando que rotulagem técnica é uma forma viável de conter desinformação e deepfakes. A aposta pressupõe que a marca resista a manipulação básica. O episódio do Claude sugere que, pelo menos para texto, essa resistência ainda não existe na prática — e que o intervalo entre "anunciar conformidade" e "ver a medida neutralizada" pode ser medido em horas, não em meses.

Não é a primeira vez que watermarking de IA falha sob escrutínio: pesquisas acadêmicas já haviam mostrado, em ambiente controlado, que técnicas de marcação em texto são vulneráveis a ataques de paráfrase. O que muda aqui é o contexto: uma empresa grande, cumprindo uma lei já em vigor, teve sua solução quebrada publicamente e quase instantaneamente, por atores fora do controle da empresa ou do regulador.

A Anthropic não se manifestou publicamente sobre os workarounds até o momento, e não está claro se a empresa planeja lançar uma versão mais robusta da marca d'água ou se vai revisar a abordagem técnica por completo. Também não há indicação de que a UE pretenda reagir a essa falha específica — seja exigindo padrões mais rígidos de resistência a manipulação, seja aceitando a limitação como inerente à tecnologia atual.

A pergunta que fica é se existe, hoje, alguma técnica de watermarking textual que sobreviva a um adversário motivado, ou se toda exigência regulatória desse tipo está condenada a funcionar apenas contra quem não tenta contornar. Se for o segundo caso, o valor prático da medida se reduz a sinalizar boa-fé de empresas cumpridoras — não a rastrear conteúdo malicioso, que é justamente o problema que a lei pretendia resolver.