Ninguém avisou. Agora, é tarde demais para parar o TikTok
O algoritmo de recomendação do TikTok está sendo replicado por outras plataformas, colocando-nos em universos individuais, feitos por mãos invisíveis
Uma mulher de leggings e botas Ugg posa para uma selfie. Uma jovem anda por uma varanda vestindo uma blusa com estampa de oncinha. Uma poltrona reclinável de couro se estende por uma confortável sala de estar. São algumas das imagens que aparecem em um feed de produtos à venda.
Esta é a nova seção “Inspire” do aplicativo da Amazon. Com lançamento previsto para este ano, é a resposta da empresa ao TikTok: um feed personalizado e com curadoria automática de vídeos de usuários, todos com links para compra. Apesar de ter pouco interesse nos produtos, confesso que me senti atraído.
Nos primeiros anos da internet, cada página, ícone ou conteúdo era meticulosamente projetado e mais ou menos estático, mas muita coisa mudou de lá para cá. Hoje, o que vemos online é cada vez mais criado em tempo real e adaptado para cada usuário.
A internet não é mais a mesma. Ela está cada vez mais automatizada e diferente para cada pessoa.
Os produtos que aparecem na página inicial da Amazon mudam de acordo com os hábitos de compra de cada consumidor. As músicas na lista de reprodução do Spotify são recomendadas a partir do que você ouviu e curtiu recentemente.
Mas o TikTok levou essa ideia ainda mais longe com seu feed. A mistura excêntrica, confusa e cativante de vídeos curtos é otimizada a partir de cada toque na tela, pausa e visualização. O resultado é uma espécie de canal de TV a cabo personalizado, refletindo seus (supostos) gostos.
Agora, as principais plataformas de tecnologia estão correndo para adaptar seus produtos. Serviços como Instagram, YouTube e até Amazon copiaram o design do TikTok e passaram a ter seus próprios feeds de vídeo. Isso representa uma mudança na internet como um todo. Ela está cada vez mais automatizada – e diferente para cada pessoa.
INTERNET QUÂNTICA
Este é um fenômeno que Mark Rolston e Jared Ficklin, respectivamente fundador e sócio da empresa de design com foco em tecnologia Argodesign, apelidaram de “internet quântica”. O nome vem de pesquisas no campo da física quântica, que demonstram que os átomos apenas se comportam como partículas ou ondas quando são observados.
A internet agora é alimentada por um código de computador autônomo que gera, sob demanda, muitas das coisas que vemos. O conteúdo, em outras palavras, existe apenas para o indivíduo que o observa. “Quando olhamos para esse processo [quântico]”, diz Rolston, “[o software] se torna muito diferente... você nunca tem certeza do que pode aparecer.”
Ou seja, não estamos mais na mesma página. Literalmente.
A segmentação e personalização de conteúdo na internet, na verdade, começaram bem antes de o TikTok virar febre em 2018. Em 2007, o Facebook alterou o feed cronológico para priorizar postagens com base em seu algoritmo.
Uma década depois, a Netflix passou a recomendar filmes e séries de acordo com os “gostos” dos usuários, inclusive personalizando a arte do thumbnail para atrair os espectadores. Em 2018, mais de 70% do conteúdo assistido no YouTube foi recomendado por um algoritmo.
Hoje, milhões de pessoas usam as mesmas plataformas,
as plataformas se tornaram muito eficientes em criar feeds que prendem os usuários, através da curadoria de conteúdo.
mas ninguém recebe o mesmo conteúdo. O que vemos é moldado por nossos hábitos – também conhecidos como dados pessoais, filtrados com base nas metas das empresas por trás dessas plataformas. Nossas preferências e interesses acabam tendo pouca influência nisso.
Na última década, essas empresas nos convenceram, de forma bastante habilidosa, de que o monitoramento de nossos hábitos e gostos serve para tornar a vida mais fácil.
“A internet permitiu que as empresas começassem a coletar dados pessoais, combiná-los em conjuntos e [fazer] inferências sobre nós”, explica Sarah Myers West, diretora administrativa do AI Now Institute da Universidade de Nova York, que estuda as consequências sociais da inteligência artificial.
NÃO EXISTE MÍDIA SOCIAL GRÁTIS
Impulsionadas pelo rápido acúmulo de dados, pelo crescente poder computacional da nuvem e pelo constante aprimoramento da ciência da computação, as plataformas se tornaram extremamente eficientes em criar feeds que prendem os usuários, através da curadoria de produtos e conteúdos.
Mas é claro que nada disso é de graça. “Essas empresas estão otimizando coisas que lhes permitem ganhar dinheiro – sua atenção, vontade de clicar em um anúncio e intenção de efetuar uma compra”, afirma West.
as empresas não revelam como seus algoritmos operam, o que torna quase impossível medir seu impacto total.
Já vimos as consequências disso: bolhas de informação. Apesar de divertidas e, ao que parece, inofensivas, elas podem levar a pensamentos e comportamentos autodestrutivos, radicalização e até genocídio. Mas estamos apenas começando a lidar com seus efeitos.
As empresas de rede social estão sob investigação de legisladores por seu potencial de divulgar desinformação e conteúdo manipulador. Em janeiro, o distrito escolar de Seattle entrou com um processo inédito contra o TikTok, Instagram, Facebook, YouTube e Snapchat, acusando as empresas de direcionar crianças a conteúdos viciantes que causam depressão, ansiedade e incentiva o cyberbullying.
Um dos maiores obstáculos para qualquer tipo de regulamentação é a natureza efêmera desses feeds individualizados. Além disso, as empresas não revelam como seus algoritmos operam, o que torna quase impossível medir seu impacto total.
A curadoria automatizada foi ganhando espaço e hoje está em todos os lugares. E, surpreendentemente, tudo isso aconteceu em um momento no qual o conteúdo ainda é produzido por pessoas.
No ano passado, tivemos uma prévia do que está por vir. Plataformas de IA generativa, como Dall-E, Midjourney e Stable Diffusion, foram lançadas para o grande público e revelaram o quão habilidosas são em produzir imagens detalhadas, fantásticas e convincentes, a partir de apenas algumas palavras.
No final de 2022, quando a OpenAI revelou o ChatGPT, um chatbot que é capaz de fazer pesquisas e escrever artigos, poemas, roteiros e piadas, ficou claro que dentro de alguns anos os algoritmos poderiam muito bem se tornar não só os curadores, mas também os criadores das postagens em nossos feeds.
A curadoria automatizada foi ganhando espaço e hoje está em todos os lugares.
Em novembro do ano passado, o Museu de Arte Moderna de Nova York recebeu a exposição Unsupervised, uma instalação do artista de dados Refik Anadol, que inclui uma tela gigante capaz de gerar uma nova obra de arte 30 vezes por segundo. Seu sistema de IA aprendeu a criá-las a partir das mais de 100 mil peças do acervo do museu.
No entanto, ele não foi alimentado com descrições, títulos ou informações sobre as obras. O resultado é uma animação inspiradora e em constante mudança gerada a partir do pensamento da inteligência artificial.
“É o que acontece quando você não adiciona o viés humano”, observa Anadol. Antes que se possa processar o que está vendo, a máquina já criou uma nova imagem. É como uma corrida sem linha de chegada.
Agora, imagine um feed superalimentado por IA generativa para cada uma das oito bilhões de pessoas na Terra. A cultura pop já se aventurou por esse tema em filmes como “Doutor Estranho no Multiverso da Loucura”, “Homem-Aranha no Aranhaverso” e “Tudo em Todo o Lugar ao Mesmo Tempo”. Passamos a tentar compreender o infinito desde que os algoritmos começaram a explorá-lo.
IAs DRIBLANDO ALGORITMOS?
No mundo real, esse fenômeno provavelmente resultará em um multiverso de banalidades: seu feed pode acabar se tornando um poço sem fim de episódios de “House Hunters” ou de “The Office” gerados por IA, com milhares de temporadas, enquanto o meu me mostra uma infinidade de dancinhas protagonizadas por influenciadores artificiais com aparência extraterrestre.
Apesar de divertidas, as bolhas de informação podem levar a comportamentos autodestrutivos, radicalização e até genocídio.
Por outro lado, a IA generativa também pode criar terrenos perigosos, com os algoritmos buscando maneiras cada vez mais inovadoras de contornar a moderação de conteúdo. Assim como os humanos aprenderam a driblar a política de não-violência do YouTube postando vídeos com altos teores de crueldade, mas que ainda respeitam as diretrizes da plataforma, a IA pode automatizar esses esforços.
“Teremos vídeos de pessoas se agredindo fisicamente, porém, sem sangue. Ou talvez o sangue não seja vermelho, seja verde”, diz Jeff Allen, ex-cientista de dados da equipe de integridade do Facebook que cofundou o Integrity Institute para abordar os males das redes sociais. “Essa [estratégia] se aplica a todos os campos, como desinformação. Quantas mentiras a IA pode produzir antes que sejam tomadas atitudes?”
Uma coisa é certa: enquanto as grandes empresas estiverem pagando por todo esse machine learning – e lucrando com o engajamento dos usuários – o futuro será moldado por seus objetivos. E, nesse multiverso, a criatividade infinita dos algoritmos pode acabar servindo apenas para vender mais um produto.
A humanidade está prestes a vislumbrar o infinito. Mas, talvez, tudo o que encontremos lá seja um par de botas Ugg.
