Redes sociais enfrentam processos por design viciante
O argumento é que as empresas por trás das redes sociais criam seus produtos para serem deliberadamente viciantes para crianças e adolescentes
As maiores empresas de tecnologia do mundo estão prestes a enfrentar um confronto jurídico que pode mudar de forma fundamental a maneira como as redes sociais são projetadas.
O julgamento acontece no Tribunal Superior do Condado de Los Angeles, onde a seleção do júri começou em 27 de janeiro. O processo testa uma nova tese jurídica que busca incentivar uma regulação mais rigorosa de plataformas como TikTok, Snap, YouTube e Facebook e Instagram.
Os advogados pretendem argumentar que as empresas por trás dessas redes estão desenhando seus produtos para serem deliberadamente viciantes, causando danos pessoais diretos aos usuários, especialmente crianças e adolescentes.
No total, o julgamento deve reunir nove casos, compilados por juízes de diferentes partes dos EUA como alguns dos exemplos mais representativos dessa nova linha de argumentação.
O primeiro da lista foi movido por uma pessoa de 20 anos identificada como K.G.M., que afirma que a ausência de salvaguardas adequadas nas redes sociais durante sua infância e adolescência levou a um uso compulsivo e a problemas de saúde mental, como depressão, ansiedade, distorção da imagem corporal, automutilação e risco de suicídio.
Os réus citados no processo inicial de K.G.M. incluíam a Bytedance, ex-controladora majoritária do TikTok; a Snap, dona do Snapchat; o Google, proprietário do YouTube; e a Meta, dona do Facebook e do Instagram. Mas Snap e TikTok fecharam acordos nos dias que antecederam a seleção do júri, por valores não divulgados, restando apenas Meta e Google no caso.
jurisprudência estabelece que produtos com design viciante não devem ser acessíveis a crianças.
O desfecho dessas decisões iniciais deve servir como campo de testes para uma segunda leva de processos, com julgamento previsto para este primeiro semestre, nos quais distritos escolares, estados e procuradores-gerais de várias partes dos EUA pretendem sustentar que as redes sociais constituem um incômodo público e são viciantes para crianças.
No centro de todas essas ações está uma acusação baseada em design: as big techs estariam usando artifícios projetados para estimular, de propósito, comportamentos viciantes entre usuários jovens.
Documentos judiciais destacam escolhas específicas de experiência do usuário (UX) como evidência desse padrão. A seguir, alguns dos principais exemplos citados.
ROLAGEM INFINITA
A “rolagem infinita” (endless scroll) é uma das maiores preocupações em praticamente todos os processos apresentados. O termo se refere a qualquer recurso que permita ao usuário consumir vídeos ou outros conteúdos de forma contínua, sem interrupções ou um ponto natural de parada.
Um documento apresentado pelo gabinete do procurador-geral da Flórida contra a Meta afirma que a rolagem infinita “dificulta que usuários jovens se desconectem [do conteúdo], porque não há um ponto final natural para a exibição de novas informações”.
Em um depoimento anterior ao acordo da Bytedance, K.G.M. declarou que o recurso de rolagem infinita do TikTok prejudicou seu sono e contribuiu para que desenvolvesse dependência do aplicativo.
Segundo mensagens internas confidenciais obtidas pela NPR em outubro, o TikTok tem consciência do caráter viciante de sua principal página de exploração com rolagem infinita e chegou a calcular que bastariam 260 vídeos para que um usuário ficasse “preso” ao app.
CONTEÚDO EFÊMERO
Outro padrão de design frequentemente citado nos documentos legais é o chamado “conteúdo efêmero”.
Trata-se de publicações que só podem ser vistas dentro de um determinado intervalo de tempo, como um snap visualizado apenas uma vez no Snapchat ou um story do Instagram que desaparece após 24 horas.
O gabinete do procurador-geral da Flórida apontou especificamente os sinais visuais usados pela Meta nos Stories do Instagram para indicar que “o conteúdo iria desaparecer para sempre em breve”, observando que essa tática faz com que usuários jovens se sintam mais compelidos a continuar clicando em novos conteúdos para evitar possíveis consequências sociais.
“A Meta projetou esses recursos de conteúdo efêmero para induzir um sentimento de ‘FOMO’ em usuários jovens – isto é, o ‘medo de ficar de fora’ – o que aumentaria o engajamento dos adolescentes”, diz o documento.
RECOMENDAÇÕES DO ALGORITMO
Um dos aspectos mais preocupantes do depoimento de K.G.M. diz respeito às recomendações algorítmicas que encontrou nas redes sociais, e que, segundo ela, a direcionaram repetidamente a conteúdos com temas perturbadores ou prejudiciais.
“Recebi muito conteúdo promovendo esse tipo de coisa, como posts de body checking, publicações do tipo ‘o que eu como em um dia’ – só um pepino –, fazendo as pessoas se sentirem mal se não comem daquele jeito”, afirmou em seu depoimento.
De acordo com a petição do procurador-geral da Flórida, os algoritmos da Meta direcionam usuários a esse tipo de conteúdo de forma intencional.
As plataformas da empresa, diz o documento, “[apresentam] aos usuários ‘conteúdos emocionalmente impactantes para provocar reações intensas’ (por exemplo, relacionados a transtornos alimentares, automutilação, suicídio, violência, questões de imagem corporal e outros), como resultado do que a Meta supostamente chama de ‘amplificação de preferências’ dos algoritmos. Apesar das declarações da Meta em sentido contrário, esse design resulta em danos a usuários jovens”.
Já os advogados de K.G.M. baseiam seus argumentos em precedentes jurídicos que estabeleceram que produtos com design propositalmente viciante não devem ser acessíveis a crianças.
Leia mais: Quem criou o botão de like e como ele transformou a internet e a mídia global
“Tomando emprestadas, em grande medida, as técnicas comportamentais e neurobiológicas usadas por máquinas caça-níqueis e exploradas pela indústria do cigarro, os réus incorporaram deliberadamente em seus produtos uma série de recursos de design destinados a maximizar o engajamento de jovens para impulsionar a receita publicitária”, afirmam os autores do processo.
“Assim como a indústria do cigarro uma geração antes, os réus entendem que uma criança usuária hoje se torna um usuário adulto amanhã”, concluem.
