Novas leis podem banir algoritmos das redes sociais. Os usuários vão gostar?
As redes sociais têm usado algoritmos para controlar nossas vidas digitais. Agora, temos uma chance de nos livrarmos deles
Nos 13 anos desde que o Facebook introduziu o feed algorítmico – rompendo com a linha do tempo cronológica das redes sociais, uma tendência que foi depois copiada pelo Twitter, Instagram, TikTok e outros –, deixamos de ver as coisas que escolhemos e passamos a ver aquilo que algumas poucas empresas querem que vejamos.
Isso nos colocou em um multiverso individual de capitalismo direcionado. Nossa internet virou um grande feed personalizado.
Mas legisladores nos EUA finalmente estão reagindo. Uma nova legislação estadual aprovada em Nova York proíbe o que eles chamam de “feed viciante” para menores de idade. É o primeiro grande projeto de lei a ser aprovado no país abordando o design das redes sociais.
Como resultado, podemos estar nos aproximando de uma era pós-algoritmo – pelo menos dentro desta indústria. Isso porque os legisladores estão mirando não apenas na tecnologia e nas big techs, mas também no design dessas plataformas para limitar a forma como elas podem afetar as pessoas.
QUEM GANHA E QUEM PERDE
A escala em que os algoritmos nos afetam é quase inimaginável. Eles não são apenas úteis, são cruciais na vida moderna. Os algoritmos – que são basicamente equações matemáticas complexas – estão presentes em marcapassos e bombas de insulina; otimizam semáforos, rotas de transporte público e até a rede elétrica.
Por outro lado, também são o mecanismo central que sustenta a economia da atenção – o principal modelo de negócios da internet. Eles são usados para nos manter engajados e, muitas vezes, nos vender algo. Após mais de uma década de uso, não resta dúvida de que os algoritmos das redes sociais são um experimento fracassado para a sociedade.
Entre adolescentes, em particular, as taxas de depressão e ansiedade não param de subir. A ciência está cada vez mais comprovando a relação entre as redes sociais e o declínio da saúde mental.
Por exemplo, um estudo de 2022 publicado na “Nature” acompanhou 17.409 pessoas entre 10 e 21 anos por dois anos e descobriu que, quanto mais se usa redes sociais durante esse período sensível, menor é a satisfação com a vida.
Ao mesmo tempo, as empresas de tecnologia sabem que teriam muito a perder se desativassem seus algoritmos e trouxessem de volta o feed cronológico – principalmente, a atenção dos usuários.
Em um estudo de 2020 financiado pela Meta, 7,2 mil usuários norte-americanos do Facebook e 8,8 mil do Instagram tiveram seus algoritmos desativados e substituídos por uma linha do tempo clássica. Sentindo-se mais entediados nessas plataformas, eles migraram para concorrentes como YouTube e TikTok.
EFEITO "LEI SECA"
Mas regular os efeitos prejudiciais das redes sociais pode ter um efeito semelhante à da regulação do tabaco e do álcool. Sabendo que é ruim para todos, os reguladores estão tentando restringir o consumo para aqueles que podem sofrer mais danos precoces e duradouros.
Pelo menos, esta é a abordagem da lei Safe for Kids (seguro para crianças), que acabou de ser aprovada em Nova York. Ela estabelece que as empresas não podem oferecer um “feed viciante” para menores de 18 anos. Uma lei quase idêntica pode ser aprovada ainda este ano na Califórnia.
A definição de “feed viciante” é particularmente interessante e abrangente – e é descrita de maneira semelhante em Nova York (trecho abaixo) e na Califórnia:
“‘Feed viciante’ significa um site, serviço online, aplicativo online ou aplicativo móvel, ou parte dele, no qual múltiplas peças de mídia geradas ou compartilhadas por usuários de um site, serviço online, aplicativo online ou aplicativo móvel, seja simultânea ou sequencialmente, são recomendadas, selecionadas ou priorizadas para exibição a um usuário com base, no todo ou em parte, em informações associadas a ele ou ao seu dispositivo.”
Essa definição ampla não determina o uso da tecnologia. Não usa a palavra “algoritmo” ou “IA”. Ela vai além: proíbe um design de interface e uma experiência muito particulares que dominaram o ambiente online – que se embaralha e reembaralha de forma única para cada usuário. Essa abordagem ampla foi intencional, na esperança de que o conceito possa continuar a ser aplicado no futuro.
Após mais de uma década de uso, não resta dúvida de que os algoritmos das redes sociais são um experimento fracassado para a sociedade.
A lei de Nova York restringe o feed dinâmico como o conhecemos, aquele que fornece uma lista interminável de conteúdo, e aborda principalmente plataformas de mídia social, como Facebook, Instagram, Snapchat e TikTok.
Mas a descrição parece ampla o suficiente para impactar empresas fora do limiar do que é considerado “rede social”, como YouTube, Pinterest e talvez até varejistas como a Amazon.
Vale notar que a nova lei não proíbe feeds algorítmicos de forma absoluta. Não há novas proteções para adultos e os menores de idade ainda poderão usar “feeds viciantes” com a permissão verificada de um responsável.
Assim, qualquer adulto que queira permitir que seu filho seja sujeito a um algoritmo pode fazê-lo (e sem dúvida, termos e condições complicados podem enganar muitos pais a optarem por isso). Isso é um pouco diferente da regulamentação que vemos em substâncias controladas como o álcool.
O projeto de lei restringe, mas não proíbe, outra ferramenta sorrateira: notificações push. Também não parece impedir contas de bots que poderiam estar postando nos feeds por meio de seus próprios algoritmos.
Não está claro ainda como o projeto poderia lidar com o campo crescente da IA generativa. Embora não seja um feed, por si só, a inteligência artificial se tornou padrão em aplicativos de redes sociais.
Ela usa modelos que são tão opacos e personalizáveis quanto o feed, mas analisando fluxos de conversas. Essas personas virtuais poderiam se aproximar dos menores com fins maldosos, assim como os feeds.
Então, esses novos projetos de lei poderiam abordar também as IAs manipuladoras? Este redator espera que a resposta seja “sim”.
