Perfis “sintéticos” (de IAs, não de gente) vão ganhando espaço no Facebook
De repente, meu feed estava cheio de perfis falsos de idosos e artesãos reclamando da vida e sendo consolados pelos verdadeiros membros do Facebook
Em dezembro, um executivo da Meta causou comoção ao dizer que a expectativa da empresa era que perfis gerados por IA tomassem as plataformas da empresa “mais ou menos da mesma forma que as contas de pessoas físicas existem hoje”.
“Eles terão biografias, fotos de perfil e serão capazes de gerar e compartilhar conteúdo alimentado por IA na plataforma... É esse caminho que estamos seguindo”, disse Connor Hayes, vice-presidente de inteligência artificial generativa, ao jornal "Financial Times".
Hayes especificou que a Meta esperava que esse desenvolvimento acontecesse “ao longo do tempo”. Embora essa ideia não me parecesse nem um pouco interessante, também pensei que não seria uma ameaça imediata. Mas, nos últimos dias, um monte de perfis gerados por IA tomou conta do meu feed do Facebook.
Tenho certeza de que essas pessoas feitas por IA são uma manifestação bem mais grosseira da ideia que Hayes estava defendendo. Mas a presença delas me deixou ainda mais cauteloso com a ideia da Meta de reinventar uma rede social com base em personalidades sintéticas.
As postagens em questão vêm de uma variedade de páginas no Facebook, cheias de conteúdo gerado por IA, que eu não pedi para seguir. Os nomes das páginas, como “Natureza e Animais”, “Notícias de Hoje” e “Mundo dos Cães” têm pouco ou nada a ver com os temas das postagens. E os temas são... bizarros!
Quão bizarros? Algo como metade das postagens que vi envolvem imagens geradas por IA de idosos exibindo bolos de aniversário que eles mesmos fizeram. A maioria das outras está relacionada a artesãos que criaram esculturas elaboradas a partir de materiais tão diversos quanto madeira, gelo e vegetais. Algumas mostram animais selvagens em apuros sendo resgatados por humanos.
Além de inserir essas postagens nos feeds de usuários que não pediram, a Meta tenta aumentar o engajamento através do seu bot de IA, o Meta AI. Uma imagem de um homem barbudo que fez um berço para o neto – apenas para descobrir que “ninguém gostou :(” – é acompanhada por perguntas sugeridas como “por que não gostaram?” e “reação do bebê ao berço.”
Nenhuma das respostas que a IA gera tem o menor valor, criando um ciclo vicioso no qual a Meta alimenta uma forma de inteligência artificial ruim com outra para gerar ainda mais conteúdo ruim.
Isso não quer dizer que eu não tenha achado esse material brevemente hipnotizante quando ele apareceu no meu feed pela primeira vez. Curioso para entender o que estava acontecendo, cliquei em algumas postagens para ler os comentários. Uma porcentagem alarmante se limitava a enviar votos de feliz aniversário, elogios pelas criações artísticas e boas vibrações em geral.
Ou os membros do Facebook que deixaram os comentários haviam sido enganados, ou – pior ainda – estavam felizes em se sentir felizes com as conquistas de perfis gerados por IA em cenários cafonas com variações mínimas.
COMO SE LIVRAR DOS PERFIS GERADOS POR IA
Depois de alguns dias fazendo disso, comecei a me preocupar com uma possibilidade: será que interagir com essas postagens de alguma forma tem algo a ver com elas aparecerem no meu feed?
Talvez o Facebook tenha me interpretado como alguém que estava curtindo esse conteúdo (embora nunca tenha clicado no botão de "curtir"), e não apenas como uma vítima da minha própria curiosidade mórbida.
Então, comecei a usar a opção "Não tenho interesse" para avisar ao algoritmo que não queria ver mais esse tipo de conteúdo. Um dia depois, elas parecem ter desaparecido, embora ainda seja cedo para declarar que foram erradicadas.
Nenhuma das respostas que a IA gera tem o menor valor.
No seu melhor – como quando moderadores de grupos levam seus trabalhos a sério –, o Facebook ainda é maravilhoso. Ele pode até funcionar à altura das frases feitas de Mark Zuckerberg sobre sua missão ser “conectar o mundo”.
Mas essas postagens de IA não têm nada a ver com isso. Despojado de sua humanidade e recheado com IA generativa, o Facebook se torna o pior tipo de junk food digital possível.
E a pior parte é que o ruim contamina o bom. Conforme começaram a aparecer comparações falsas de fotos de “antes e depois” geradas por IA, comecei a passar por cima de postagens semelhantes feitas por pessoas que eu sigo.
Só depois de desacelerar e analisá-las com mais cuidado foi que percebi que eram de membros reais da família delas, e não mais calorias vazias. Senti que estava tendo que moderar meu próprio feed – o que, pensando bem, é uma política oficial do Facebook nos dias de hoje.
Talvez a empresa consiga, de algum modo, institucionalizar os perfis gerador por IA de uma maneira que agreguem valor e não deixem nenhum membro confuso.
Mas não posso deixar de me perguntar: em vez de dar as boas-vindas a pessoas geradas por IA nas suas plataformas, a Meta não estaria fazendo algo muito melhor se garantisse que as únicas pessoas que você vai encontrar serão gente de verdade?
