IA copia artistas? Estudo mostra por que isso é difícil de provar
Pesquisa do MIT identifica o “decaimento da atribuição”, fenômeno que dificulta ligar uma imagem gerada a uma obra ou criador específico.
A pergunta sobre se a inteligência artificial copia artistas está no centro de inúmeros processos por violação de direitos autorais. Mas um novo estudo do Instituto de Tecnologia de Massachusetts (MIT) mostra que provar essa relação pode ser muito mais difícil do que encontrar semelhanças entre duas imagens.
Publicado na revista científica Nature , o trabalho investiga se uma imagem produzida por um modelo de difusão pode ser atribuída causalmente a uma obra, pessoa ou artista presente nos dados de treinamento.
Os pesquisadores Zheng Dai e David Gifford concluíram que, quanto maior o conjunto de dados usado para treinar o modelo, mais difícil se torna apontar uma única fonte como responsável pelo resultado.
O estudo não afirma que modelos de IA nunca copiam imagens. Também não responde se é legal usar obras protegidas por direitos autorais no treinamento sem autorização. A pesquisa analisa uma questão mais específica: é possível provar que determinada obra ou artista causou a geração de uma imagem?
POR QUE É DIFÍCIL PROVAR QUE A IA COPIA ARTISTAS
Os pesquisadores constataram que a influência de uma obra específica diminui conforme aumenta o volume de dados usados no treinamento. Em muitos experimentos, retirar uma imagem ou todas as obras de um criador praticamente não alterou o resultado produzido pelo modelo.
“Muitas vezes, podemos omitir qualquer amostra ou criador dos dados de treinamento sem afetar uma amostra gerada”, afirmam os autores.
Eles chamam esse fenômeno de “decaimento da atribuição”. Na prática, uma inteligência artificial pode produzir algo visualmente semelhante ao trabalho de determinado artista sem que seja possível demonstrar que a presença daquele artista nos dados de treinamento foi a causa do resultado.
Uma possível explicação está na redundância visual dos grandes conjuntos de dados. Milhares de imagens podem compartilhar cores, formas, composições e outros elementos. Assim, nenhuma obra isolada seria necessariamente responsável pelo “DNA” de uma imagem gerada.
Os autores, porém, apresentam essa explicação como uma hipótese. O estudo comprovou a redução da capacidade de atribuição, mas não demonstrou diretamente que a redundância seja sua única causa.
LEIA TAMBÉM:
- Justiça decide que Stability AI não infringiu direitos da Getty
- O que é “corpus” e por que todo mundo no ramo da IA está falando sobre isso
COMO OS PESQUISADORES TESTARAM A CAUSALIDADE
Semelhança visual, sozinha, não comprova que uma obra específica causou a geração de uma imagem.
Modelos de difusão não funcionam como um banco de dados do qual basta apagar uma imagem. Durante o treinamento, eles não armazenam simplesmente cópias dos arquivos que analisam.
Em vez disso, ajustam milhões de parâmetros numéricos internos de acordo com os padrões encontrados em todo o conjunto de treinamento. Mais tarde, usam esses parâmetros para transformar ruído aleatório em uma nova imagem.
Isso significa que as influências das imagens ficam entrelaçadas no modelo. Não é possível retirar um arquivo e comparar diretamente o que aconteceria antes e depois.
Para contornar o problema, os pesquisadores desenvolveram modelos formados por componentes independentes, cada um treinado com uma parcela diferente dos dados. Depois, esses componentes foram combinados.
Essa estrutura permitiu eliminar de maneira precisa a influência de uma imagem, pessoa ou artista. Para isso, bastava desativar os componentes que haviam sido expostos àquele material, sem treinar novamente o modelo inteiro. A técnica é chamada de ablação.
Dai e Gifford geraram uma imagem com o conjunto completo de treinamento. Em seguida, repetiram o processo retirando uma obra, uma pessoa ou um artista, enquanto mantinham os demais elementos iguais.
Se o resultado permanecesse praticamente inalterado, os pesquisadores poderiam concluir que o item retirado não havia sido a causa daquela imagem específica. O modelo conseguiria produzir algo semelhante mesmo sem ter contato com aquele conteúdo.
O estudo também testou um método frequentemente usado para apontar possíveis cópias: procurar, nos dados de treinamento, a imagem visualmente mais parecida com o resultado produzido pela IA.
Conforme o conjunto de dados aumentava, esse método errava com mais frequência. Muitas vezes, a imagem considerada a “correspondência mais próxima” era apenas uma coincidência visual. Retirá-la do treinamento não provocava alterações relevantes no resultado.
Em outras palavras, semelhança visual, sozinha, não comprova que uma obra específica causou a geração de uma imagem.
O decaimento da atribuição já se tornou significativo em conjuntos formados por 10 mil a 100 mil imagens. Modelos comerciais podem ser treinados com bases que chegam a cerca de um bilhão de arquivos.
O EFEITO WARHOL
Para entender o fenômeno, imagine um modelo treinado com 50 mil obras de arte, incluindo as serigrafias de Andy Warhol.
Se as obras do artista forem retiradas e o modelo continuar produzindo imagens com cores fortes, grades repetidas e referências à cultura pop, isso não significa que a inteligência artificial tenha inventado aquele estilo sem nenhuma influência externa.
Outros artistas presentes nos dados podem ter trabalhado com características visuais semelhantes. Nesse cenário, as obras de Warhol seriam uma entre várias fontes que carregam os mesmos padrões.
Retirar apenas um artista não eliminaria essas características porque elas continuariam disponíveis em milhares de imagens semelhantes.
O resultado seria diferente se o conjunto de dados não contivesse nenhuma obra de pop art, serigrafia com cores chapadas ou composição em grade. Nesse caso, o modelo não teria padrões nos quais se apoiar para produzir uma imagem com aquele estilo.
A impossibilidade de atribuição aparece quando uma característica visual está distribuída de maneira redundante entre muitas imagens. Excluir uma das fontes não elimina o padrão; seria necessário retirar todas as fontes relacionadas a ele.
O QUE O ESTUDO MUDA — E O QUE NÃO MUDA
As conclusões podem dificultar o argumento de que uma imagem gerada por IA copiou diretamente uma obra ou artista específico. A mesma redundância que permite a sobrevivência de um estilo também torna mais difícil identificar uma fonte definitiva.
No contexto jurídico dos Estados Unidos, demonstrar que o acusado teve acesso a uma obra protegida pode ser um dos elementos usados para estabelecer uma violação de direitos autorais.
Os pesquisadores argumentam que o decaimento da atribuição pode ajudar empresas de inteligência artificial a contestar a existência desse vínculo causal. Isso poderia se tornar uma ferramenta de defesa em processos, mas não representa um escudo jurídico completo.
Casos recentes mostram que as disputas não tratam apenas dos resultados produzidos pelos modelos. O acordo de US$ 1,5 bilhão firmado pela Anthropic, por exemplo, envolveu a obtenção e o armazenamento de livros usados no treinamento do Claude.
O próprio estudo também reconhece que modelos treinados com grandes conjuntos de dados ainda podem reproduzir imagens muito semelhantes às usadas no treinamento. Pesquisas anteriores encontraram esse tipo de ocorrência em uma proporção estimada de cerca de uma para cada milhão de resultados.
Portanto, o decaimento da atribuição descreve um comportamento geral dos modelos, mas não significa que toda imagem produzida seja impossível de rastrear ou que os sistemas nunca memorizem conteúdos específicos.
A pesquisa responde a uma pergunta restrita: é possível provar que a presença de determinada obra no treinamento causou uma imagem específica? Ela não determina se empresas podem coletar e usar obras protegidas sem autorização.
Essa disputa mais ampla – sobre quem autoriza, quem recebe e quem se beneficia do uso de trabalhos criativos no treinamento da inteligência artificial – permanece em aberto.
