POR BENNETT BARTENTHAL, APU KAPADIA E KURT HUGENBERG

O plano da Apple de lançar recursos para limitar a disseminação de material contendo abuso sexual infantil (CSAM) foi elogiado por alguns especialistas em privacidade e segurança, bem como por grupos de proteção à criança. 

Porém, essas preocupações ofuscaram um outro problema, ainda mais grave: o novo recurso da Apple utiliza um design que pesquisas apontam ser falho e que acabam causando o efeito contrário.

Um desses recursos é uma opção de controle parental de mensagens, que bloqueia a visualização de imagens sexualmente explícitas. A expectativa é que o monitoramento dos pais sobre o comportamento da criança diminua a visualização e envio de fotos com conteúdo sexual. Mas isso é altamente questionável.

Somos dois psicólogos e um cientista da computação. Conduzimos uma extensa pesquisa sobre porque as pessoas compartilham imagens deste tipo na internet. Nossa pesquisa recente revela que os avisos sobre privacidade nas redes sociais não reduzem o compartilhamento de fotos nem aumentam a preocupação com a privacidade. Na verdade, esses avisos, como os dos recursos de proteção infantil da Apple, podem aumentar, em vez de reduzir, o compartilhamento de fotos impróprias.

RECURSOS DE PROTEÇÃO INFANTIL DA APPLE

A Apple anunciou no dia 5 de agosto de 2021 que planeja introduzir novos recursos para proteger crianças de três formas. Primeiramente, apresenta um recurso que auxilia pais ou crianças que se deparem com material potencialmente perigoso no aplicativo de busca da Apple ou na assistente virtual Siri.

Seu segundo recurso fará uma varredura nas imagens, tanto nos dispositivos quanto no iCloud Photos, afim de identificar correspondências em um banco de dados de imagens de abuso sexual infantil fornecido pelo Centro Nacional para Crianças Desaparecidas e Exploradas e outras organizações de proteção à criança. Caso aponte presença de material impróprio, a Apple analisa manualmente cada correspondência para confirmar o conteúdo da foto e, em seguida, desativa a conta do usuário e envia um relatório para o centro. Este recurso, porém, gerou muita polêmica.

O último recurso adiciona uma opção de controle parental ao “Mensagens”, aplicativo de SMS da Apple, que desfoca imagens sexualmente explícitas quando ativado, avisando o usuário quanto ao conteúdo. Se o usuário tiver 12 anos ou menos, os pais receberão uma mensagem caso a criança veja ou compartilhe uma foto imprópria.

Porém, há pouca discussão sobre este recurso, talvez porque o consenso é que o controle parental é necessário e eficaz. No entanto, nem sempre é o caso e esses avisos podem causar o efeito contrário.

QUANDO AVISOS CAUSAM O EFEITO OPOSTO

Em geral, pessoas tendem a evitar o compartilhamento de material impróprio, mas é importante reduzir a frequência com que isso ocorre. Uma análise de 39 estudos descobriu que 12% dos jovens encaminharam um “sext” (mensagem de texto com conteúdo adulto), imagem ou vídeo sexualmente explícito, enquanto, 8,4% tiveram um “sext” seu encaminhado sem consentimento. Os avisos podem parecer a forma mais adequada de reduzir o compartilhamento impróprio. Mas, ao contrário do que se esperava, descobrimos que os avisos sobre violações de privacidade costumam gerar o efeito oposto.

Em uma série de experimentos, tentamos diminuir o compartilhamento de fotos íntimas ou degradantes nas redes sociais lembrando aos participantes que eles devem levar em consideração a privacidade e a segurança de outras pessoas. Em vários estudos, analisamos os efeitos dos diferentes avisos sobre as consequências do compartilhamento de fotos, similares aos que serão introduzidos nas novas ferramentas de proteção infantil da Apple.

Mas, supreendentemente, nossa pesquisa revelou resultados contraintuitivos. Os participantes que receberam avisos sobre levar em consideração a privacidade dos outros eram mais propensos a compartilhar fotos do que os participantes que não receberam este aviso. Quando começamos esta pesquisa, tínhamos certeza de que esses incentivos à privacidade reduziriam o compartilhamento de conteúdo impróprio, mas isso não ocorreu.

Os resultados têm sido consistentes, desde nossos dois primeiros estudos que mostraram o efeito contrário que os avisos podem gerar. Já observamos esse efeito várias vezes e descobrimos que vários fatores, como o humor de uma pessoa ou seu hábito de compartilhamento de fotos em redes sociais, influenciam na sua vontade de compartilhar fotos e na maneira como respondem aos avisos.

Embora não esteja claro o motivo de avisos causarem este efeito, uma possibilidade é que a preocupação dos indivíduos com a privacidade se reduz quando subestimam os perigos do compartilhamento. Outra possibilidade é que regras ou instruções aparentemente desnecessárias podem provocar o efeito oposto. Assim como algo proibido é mais atrativo, os constantes avisos podem instigar o compartilhamento de conteúdo impróprio.

OS AVISOS DA APPLE FUNCIONARÃO?

É possível que algumas crianças fiquem mais inclinadas a enviar ou receber fotos sexualmente explícitas após receberem um aviso da Apple. Existem inúmeras razões pelas quais esse comportamento pode ocorrer, que variam de curiosidade – os adolescentes muitas vezes aprendem sobre sexo com os colegas – a desafiar a autoridade dos pais, ou até mesmo pode decorrer de uma preocupação com sua reputação, já que muitos são vistos como “descolados” ao compartilhar este tipo de conteúdo. Em uma fase da vida em que existe uma tendência de desafiar, não é difícil ver como os adolescentes podem achar que receber um aviso da Apple é uma medalha de honra, ao invés de um motivo genuíno de preocupação.

A Apple anunciou no dia 3 de setembro de 2021 que está atrasando o lançamento desses recursos devido a preocupações quanto a privacidade e segurança. A empresa planeja dedicar mais tempo nos próximos meses para coletar informações e fazer melhorias antes de lançar esses recursos.

Este plano, porém, não é suficiente sem também saber se os novos recursos da Apple terão o efeito desejado nas crianças e adolescentes. Incentivamos a Apple, então, a se juntar a pesquisadores para garantir que suas novas ferramentas reduzam, ao invés de encorajar, o compartilhamento de fotos impróprias.

SOBRE OS AUTORES

Bennett Bertenthal e Kurt Hugenberg são professores de ciências psicológicas e do cérebro e Apu Kapadia, professor de ciência da computação. Os três fazem parte do corpo docente da Universidade de Indiana. Este artigo foi republicado do site The Conversation sob a licença Creative Commons.