Marcas d’água nos textos do Claude? Anthropic explica como a tecnologia funciona
Tecnologia cria um padrão imperceptível nas escolhas de palavras para ajudar a identificar textos produzidos com IA
Os textos gerados pelo Claude passarão a contar com uma espécie de marca d’água. Diferentemente do que o nome pode sugerir, porém, ela não será um símbolo visível, uma etiqueta ou um caractere escondido no conteúdo.
A Anthropic explicou que incorporará a tecnologia a futuros modelos do Claude para permitir a identificação da probabilidade de participação da IA na produção de determinado texto.
A mudança faz parte da adequação da empresa às exigências da Lei de IA da União Europeia.
Leia também: União Europeia lança código para regular a Inteligência Artificial; veja o que muda
COMO FUNCIONA A MARCA D’ÁGUA DO CLAUDE?
Modelos como o Claude produzem textos escolhendo, uma após a outra, as palavras que podem dar continuidade a uma frase. Em determinados momentos, existem várias opções que fazem sentido e praticamente não alteram o significado do conteúdo.
É justamente nessas escolhas que a marca d’água entra. Segundo a Anthropic, o sistema utiliza decisões de baixo impacto feitas ao longo da geração para criar um padrão estatístico no texto.
Em vez de utilizar apenas um gerador aleatório para decidir entre palavras igualmente adequadas, o sistema considera uma chave e algumas das palavras anteriores.
O resultado forma um padrão que o leitor não percebe durante uma leitura comum, mas que quem possui a chave necessária pode identificar.
A análise desse padrão permite calcular a probabilidade de o Claude ter participado da geração do conteúdo. Portanto, a tecnologia não funciona simplesmente como uma etiqueta que confirma de maneira absoluta a origem de um texto.
LEITOR NÃO VERÁ NADA DIFERENTE
De acordo com a Anthropic, nenhum elemento será acrescentado ao texto e não haverá caracteres ocultos. A diferença entre um conteúdo com e sem a marca d’água também não deverá ser perceptível para quem estiver lendo.
A empresa afirmou ainda que o método não exige tokens adicionais e, por isso, não deve aumentar o custo de uso do modelo. A expectativa é que a qualidade e o conteúdo das respostas também não sejam afetados.
Outro ponto destacado é a privacidade. A marca d’água não terá informações de identificação e não poderá ser relacionada a uma pessoa, empresa ou conversa específica.
MUDANÇA NÃO SERÁ EXCLUSIVA DO CLAUDE
A iniciativa está relacionada às novas regras europeias para identificação de conteúdos produzidos por inteligência artificial. A Anthropic afirmou que outros grandes desenvolvedores também aderiram ao Código de Práticas relacionado à legislação e deverão implementar seus próprios métodos.
Na União Europeia, a exigência para que fornecedores de IA que atuam no mercado identifiquem conteúdos gerados pela tecnologia entrou em vigor em 2 de agosto.
