Criador da foto fake do papa Francisco quer que parem de roubar suas imagens
Pablo Xavier destaca a necessidade de tecnologias de marca d’água mais eficientes
Há dois meses, uma imagem gerada por inteligência artificial do papa Francisco usando um casaco Balenciaga tomou conta da internet, demonstrando a capacidade dessa tecnologia de transformar qualquer pessoa em um criador famoso.
O viral é de autoria de Pablo Xavier, um trabalhador da construção civil de 31 anos que mora em Chicago e que, agora, está experimentando o lado negativo da tecnologia: o fato de que nem todos estão dispostos a dar os créditos à pessoa por trás da imagem.
Na semana passada, Daniel Marven, CEO de uma empresa de construção, publicou uma série de quatro imagens de Elon Musk beijando robôs em seu perfil do Twitter, que foram divulgadas por vários veículos de imprensa.
O problema é que as imagens foram retiradas da conta do Instagram de Xavier, e nem Marven nem a mídia lhe deram o devido crédito.
“Eu não sabia que isso tinha acontecido até alguém me contar”, diz Xavier. “Fiquei perplexo. Ele basicamente usou as imagens para promover sua empresa, o que é compreensível. Eu só gostaria que tivessem perguntado a ele: ‘você pode nos mostrar suas criações? Como conseguiu fazer isso?’.”
Algumas pessoas do Midjourney estão discutindo a implementação de marcas d’água geradas automaticamente com as imagens.
Cada resultado produzido pelo Midjourney possui um número associado, que é utilizado para gerar as grades iniciais da imagem. Esses números são partes essenciais do processo, pois desencadeiam a criação do ruído que se transforma em imagens reconhecíveis por meio da IA.
Como criador original, Xavier é capaz de fornecer esses números, algo que Marven, segundo ele, não consegue (Xavier compartilhou capturas de tela do Discord do Midjourney, como evidência de sua autoria).
Quando contatado pela Fast Company, Marven inicialmente afirmou que as imagens eram de sua autoria. “São imagens geradas por IA que retratam a possibilidade de Elon Musk criar robôs como esses na vida real”, disse por mensagem direta no Twitter.
Quando questionado diretamente se ele fez as imagens, ele respondeu “sim”. No entanto, quando foi informado de que Pablo Xavier apresentou evidências de sua autoria, Marven parou de responder.
QUEM CRIOU, O HUMANO OU A MÁQUINA?
Após Xavier expressar suas frustrações em sua conta do Instagram, alguns usuários comentaram que ele estava exagerando, alegando que não havia criado as imagens sozinho, apenas inseriu um comando no Midjourney. “Você está certo”, disse ele. “Mas também investi muitas horas tentando gerar a imagem correta.”
Além de garantir que receba o devido crédito por seu trabalho, Xavier acredita que vincular seu nome às imagens ajudará as pessoas a identificarem que são falsas – uma preocupação crescente em uma semana na qual uma imagem falsa de uma explosão no Pentágono afetou o mercado de ações e que a OpenAI publicou um post em seu blog pedindo a criação de um órgão de governança global de IA.
Ele acredita que, após o sucesso da imagem do papa vestindo Balenciaga, as pessoas deveriam reconhecer o componente de IA em suas criações. Depois do problema com as imagens de Musk, ele passou a adicionar marcas d’água em seus trabalhos.
“Assim que veem que fui eu quem criou, e quando exploram o meu perfil, percebem que se trata de arte de IA. No caso de outras pessoas, é um pouco diferente. Muitas que estão reivindicando a autoria não têm mais nenhuma outra imagem para mostrar como prova.”
As imagens de Musk, assim como a do papa, reforçam para Xavier a necessidade de regulamentação em torno da IA generativa – e, no caso do Midjourney, a necessidade de marcas d’água automáticas.
“Algumas pessoas do Midjourney estão discutindo a implementação de marcas d’água que serão geradas automaticamente com as imagens”, diz Xavier. “Por favor, implementem esse recurso para que possamos colocar nossos nomes nelas.”
