Precisamos “domar” os apps de vídeo com IA antes que seja tarde demais
Com novos aplicativos como Sora e Meta Vibes, corremos o risco de nos afogar em um mar de lixo criado por IA
Seja Sam Altman “roubando” GPUs ou o Super Mario aparecendo em “Star Wars”, a ruptura na realidade provocada pela nova rede social de vídeos gerados por IA da OpenAI, chamada Sora, é profunda.
O que antes seria denunciado como vídeo fake agora viraliza nas redes e já superou o lançamento do produto concorrente da Meta, o Vibes.
Usuários (incluindo alguns funcionários da própria OpenAI) estão se divertindo ao criar conteúdos absurdos com figuras reais – consequência de regras incrivelmente frouxas estabelecidas pela empresa. Isso, apesar de ela afirmar que tem políticas para evitar violações de propriedade intelectual.
As redes sociais, criadas para nos conectar uns com os outros – e, agora, dominadas por conteúdo automatizado – parecem caminhar para a extinção. No lugar delas, surge o paraíso de um veterano usuário do Facebook: uma rolagem infinita de imagens surreais.
Especialistas temem o impacto dessa transformação na nossa capacidade de distinguir fato de ficção e no modo como isso afeta nosso próprio estados de ânimo.
“Não é totalmente surpreendente que as empresas estejam seguindo o dinheiro, considerando o que vimos nos últimos 12 a 18 meses, especialmente em relação a vídeos gerados por IA”, afirma Henry Ajder, especialista em deepfakes.
Segundo ele, alguns dos vídeos mais vistos em plataformas como o YouTube Shorts, tradicionalmente dominadas por conteúdo humano, já são produzidos por IA.
NÃO ESTAMOS PRONTOS
O impacto dos feeds repletos de IA sobre nossa percepção é profundo, diz Jessica Maddox, professora de estudos de mídia na Universidade da Geórgia. “O perigo de compartilhar imagens de IA, mesmo quando as pessoas sabem que não são reais, é que passamos a buscar cada vez mais esse tipo de mídia manipulada para sentir a mesma coisa”, explica.
Como os aplicativos em questão afirmam ter pouquíssimas (ou nenhuma) restrições quanto ao uso de material protegido por direitos autorais, há um risco real de contaminar o ecossistema digital por anos.
Alguns pesquisadores acreditam que estamos mal preparados para lidar com o problema, em parte porque, na prática, as imagens que consideramos “reais” já não são reais há algum tempo.
A quantidade de processamento que ocorre entre o clique da câmera do celular e o salvamento da imagem já altera significativamente o resultado.
Um estudo recente do Instituto Max Planck de Informática e da Universidade de Mannheim sugere que a diferença entre a qualidade das imagens usadas para treinar detectores de deepfake e uma foto comum de smartphone é tão grande que torna esses sistemas praticamente inúteis.
“As ferramentas de detecção são treinadas com imagens de referência que se parecem com as fotografias de hoje tanto quanto as câmeras do início do século 20 se pareciam com elas”, diz Janis Keuper, um dos autores do estudo. “Vai ser muito difícil filtrar o conteúdo gerado por IA, especialmente à medida que os geradores ficam mais sofisticados.”
CONTEÚDO GENÉRICO CRIADO POR IA
A diferença agora, com a chegada de Vibes e Sora, é que essas plataformas assumem abertamente que priorizam o conteúdo de IA e, na maioria das vezes, o colocam em primeiro plano.
“O nome Meta Vibes é perfeito para o problema do ‘lixo de IA’”, comenta Maddox, usando o termo popular que descreve o conteúdo raso e repetitivo criado por inteligência artificial.
Num mundo em que a imaginação substitui a realidade, pouco importa se a imagem representa algo verdadeiro. O que conta é se ela reforça a visão de mundo do espectador.
na prática, as imagens que consideramos “reais” já não são reais há algum tempo.
Isso explica, segundo Maddox, como muitas pessoas reagem a conteúdos gerados por IA. “Elas dizem: ‘mas eu concordo com a mensagem, seja ela real ou não’. Isso diz tudo. A IA é pura vibe”, afirma.
“Infelizmente, isso significa que algo como o Meta Vibes provavelmente vai fazer enorme sucesso com o público da Meta, que adora imagens criadas por IA. Não importa se é real, o que vale é a sensação.”
E é justamente isso que mais preocupa os especialistas. Esses aplicativos estão sendo empurrados para o público e tendem a prosperar, em parte porque já estamos acostumados com o poder persuasivo do conteúdo digital.
“A realidade agora é uma só, onde o autêntico e o sintético se fundem”, diz Ajder. “As pessoas têm experiências autênticas com a IA – experiências que as comovem, mudam suas crenças, suas relações e opiniões. Elas são influenciadas por amigos virtuais, por chatbots e por desinformação gerada por IA em zonas de conflito.”
Ajder não acredita que Meta e OpenAI estejam considerando as reações emocionais provocadas pela IA.
“A motivação é puramente de mercado. Esses vídeos são baratos, rápidos de fazer, fáceis de escalar e geram engajamento, visualizações, cliques.” Mas, ao eliminar o “social” das redes sociais, o que essas empresas estão criando pode ter consequências muito mais graves do que apenas nos manter rolando a tela.
