Com a IA generativa, está cada vez mais difícil saber o que é real nas redes sociais
Imagens geradas por inteligência artificial atraem usuários – e o algoritmo de recomendação do Facebook pode estar promovendo essas postagens
Aqueles que passaram algum tempo no Facebook nos últimos seis meses podem ter notado em seus feeds imagens realistas que parecem boas demais para serem verdade: crianças segurando pinturas que poderiam ser obras de artistas profissionais ou cabanas de madeira com interiores majestosos que são o sonho de qualquer pessoa. Outras, como representações de Jesus como um camarão, são simplesmente bizarras.
Assim como a foto falsa do papa com um casaco estiloso que se tornou viral, essas imagens geradas por IA estão cada vez mais presentes (e populares) nas redes sociais. Embora muitas delas beirem o surreal, frequentemente são usadas para atrair o engajamento de usuários comuns.
Nossa equipe de pesquisadores do Observatório da Internet de Stanford e do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown investigou mais de 100 páginas do Facebook que postam grandes volumes de conteúdo gerado por IA.
Analisamos os padrões das imagens, encontramos evidências de coordenação entre algumas das páginas e tentamos entender os prováveis objetivos dos responsáveis pelas postagens. Os administradores das páginas parecem ter diferentes motivações.
A IA se transformou na principal ferramenta para autores de golpes e spam nas redes sociais.
Alguns criadores de conteúdo estão buscando aumentar o número de seguidores com conteúdo sintético; golpistas estão usando páginas roubadas de pequenas empresas para anunciar produtos que aparentemente não existem; e outros estão compartilhando imagens geradas para direcionar usuários a sites cheios de anúncios para gerar receita publicitária para seus donos.
Nossas descobertas indicam que as imagens geradas por IA estão atraindo os usuários – e que o algoritmo de recomendação do Facebook pode estar promovendo esses posts.
GOLPES E SPAM NA ERA DA IA
Golpes e spam na internet não são novidade. Por mais de duas décadas, golpistas têm usado e-mails em massa para promover esquemas de pirâmide, artigos sensacionalistas para direcionar usuários para sites cheios de anúncios e propagandas que prometem a perda de peso rápida.
Agora, a IA se transformou na principal ferramenta para este tipo de prática. As imagens geradas são visualmente atraentes e baratas de produzir, permitindo que pessoas mal-intencionadas produzam grandes volumes de postagens atraentes. Algumas das páginas que observamos chegavam a publicar dezenas de imagens por dia.
Ao fazer isso, elas estão seguindo o conselho da própria Meta para criadores. Postar com frequência, sugere a empresa, ajuda os criadores a obter exposição algorítmica, o que faz com que seu conteúdo apareça no feed de mais pessoas.
Grande parte ainda é, de certa forma, clickbait: as imagens do “Jesus camarão” fazem as pessoas pararem para olhar e inspiram compartilhamentos simplesmente por serem tão bizarras.
Muitos usuários reagem curtindo a publicação ou deixando um comentário. Isso sinaliza aos curadores algorítmicos que talvez o conteúdo deva ser impulsionado para os feeds de ainda mais pessoas.
Algumas das maiores páginas de spam que observamos, provavelmente reconhecendo isso, aumentaram seu engajamento deixando de postar URLs e publicando imagens geradas por IA. Agora, elas postam os endereços (que levam os usuários a sites cheios de anúncios) nos comentários das imagens.
Mas criadores comuns também estão capitalizando o engajamento com esse tipo de imagem, sem violar explicitamente as políticas da plataforma.
ALGORITMO IMPULSIONA CONTEÚDO GERADO POR IA
Nossa investigação alterou significativamente nossos próprios feeds do Facebook. Em questão de dias após visitar as páginas – e sem comentar, curtir ou seguir qualquer postagem ou perfil –, o algoritmo do Facebook recomendou uma série de outros conteúdos gerados por IA.
Curiosamente, o fato de termos visualizado grupos de, por exemplo, páginas de mini vacas geradas por IA, não resultou em um aumento de recomendações a curto prazo para páginas focadas em mini vacas reais, vacas de tamanho normal ou outros animais de fazenda. Em vez disso, o algoritmo recomendou páginas sobre uma variedade de tópicos e temas, mas com uma coisa em comum: todas continham imagens geradas por IA.
Em 2022, o site de tecnologia Verge detalhou um memorando interno do Facebook sobre mudanças propostas para o algoritmo da empresa. O algoritmo, segundo o memorando, se tornaria um "motor de descoberta", permitindo que os usuários entrassem em contato com postagens de pessoas e páginas que não buscaram explicitamente, semelhante ao recurso "For You" do TikTok.
Analisamos os Relatórios de Conteúdo Amplamente Visualizado, do próprio Facebook, que listam conteúdo, domínios, links, páginas e postagens mais populares na plataforma a cada trimestre. Os relatórios mostram que a proporção de conteúdo de páginas e pessoas que não seguem visto pelos usuários aumentou constantemente entre 2021 e 2023.
Mudanças no algoritmo permitiram mais espaço para que o conteúdo gerado por IA fosse recomendado organicamente sem engajamento prévio – talvez explicando nossas experiências e as de outros usuários.
“FEITO COM IA”
Como a Meta não sinaliza automaticamente conteúdos gerados por IA, às vezes vemos usuários alertando outros sobre golpes ou spam. Mas a empresa parece estar ciente dos possíveis problemas de que eles acabem se misturando ao ambiente de informações sem qualquer tipo de sinalização.
A Meta fez vários anúncios sobre como planeja lidar com isso. A partir de maio, o Facebook começará a aplicar um rótulo a postagens produzidas com inteligência artificial.
Algumas das maiores páginas de spam que observamos aumentaram seu engajamento publicando imagens geradas por IA.
Mas o sucesso dessa medida dependerá da precisão dos modelos de detecção. Quão precisos são? Algum conteúdo gerado por IA poderá passar despercebido? Certos conteúdos podem ser sinalizados inadequadamente? E o que o público fará com esses rótulos?
Nosso trabalho teve como foco golpes e spam no Facebook, mas o quadro é bem mais amplo. Reportagens já alertaram para vídeos no YouTube cujo alvo é o público infantil e para influenciadores no TikTok que usam IA generativa para gerar mais lucro com seus perfis.
As plataformas terão que estudar como tratar o conteúdo gerado. É possível que o engajamento diminua se o ambiente online for inundado com postagens, imagens e vídeos criados artificialmente.
Embora a imagem do “Jesus camarão” seja claramente falsa, o desafio de avaliar o que é real está apenas começando.
Este texto foi reproduzido do The Conversation sob licença Creative Commons. Leia o artigo original.
