Meta treina IA do Instagram com seus dados – e é quase impossível impedir
Usuários estão ajudando a treinar a IA do Instagram contra sua vontade, porque a Meta está usando truques para evitar o opt-out
A Meta passou a usar imagens e vídeos do Instagram para treinar seus modelos de inteligência artificial com o conteúdo da plataforma. E não há nada que você possa fazer a respeito, a menos que more na União Europeia. Mas, mesmo assim, descobri que impedir que ela use seu conteúdo é desnecessariamente difícil.
Quando pensamos que a Meta já cometeu todos os erros possíveis, surge mais um. Ao usar o conteúdo dos criadores para treinar sua IA, ela está efetivamente destruindo o espírito do Instagram e, ao mesmo tempo, desrespeitando os usuários – especialmente aqueles que entraram na plataforma quando ainda era um espaço independente para criatividade e autoexpressão.
O Instagram surgiu como uma maneira de compartilhar imagens da melhor forma possível. Kevin Systrom criou o aplicativo para iPhone em 2010, após uma viagem ao México, depois que sua namorada se recusou a postar as fotos, alegando que não estavam boas o suficiente. O app incluía ferramentas de edição, como cortes adequados para a tela e alguns filtros legais para tornar as imagens mais bonitas.
A simplicidade visual do feed se tornou um ímã instantâneo para fotógrafos e artistas de todo o mundo. Pessoas comuns também adoraram. Cinco anos depois, o Instagram superou o Twitter em popularidade, acumulando 400 milhões de usuários. Todos, de criadores independentes a marcas de moda de luxo, queriam estar lá.
Agora, eles enfrentam a difícil – ou impossível – tarefa de tentar impedir o uso de seu conteúdo para treinar a IA da empresa.
Não é de admirar que, no Reddit, os usuários estejam revoltados depois que descobriram que apenas residentes da União Europeia podem optar por não participar dessa exploração. No entanto, mesmo eles acharão essa tarefa difícil. Tecnicamente, o conteúdo europeu é protegido por leis de privacidade. Mas a Meta está usando várias técnicas de design enganoso.
DIFICULDADES DESNECESSÁRIAS
Veja a mensagem que aparece quando os usuários tentam acessar a opção através da seção de notificações no Instagram (lembre-se, ela aparecerá apenas na União Europeia): primeiro, note o enorme botão azul “fechar” em comparação com o link quase invisível que diz “right to object” – direito de objeção, em português.
“Para ajudar a trazer essas experiências para você, agora usaremos a base legal chamada interesses legítimos para usar suas informações para desenvolver e melhorar a IA da Meta. Isso significa que você tem o direito de se opor ao uso de suas informações para esses fins. Se sua objeção for aceita, será aplicada daqui para frente.”
O que exatamente significa “base legal chamada interesses legítimos”? É um termo que não tem nada a ver com a decisão do usuário. De acordo com as leis de privacidade da União Europeia, as pessoas têm o direito de optar por não permitir que a Meta use seu conteúdo. É simples assim.
Este parágrafo inteiro parece ter sido intencionalmente elaborado para confundir e esconder aquele link já difícil de ver, tornando muito tentador clicar no grande botão azul “fechar”.
Então, note a frase desencorajadora “se sua objeção for aceita”. Ela implica que a Meta tem algum poder de decisão na questão. A verdade é que, não importa o que aconteça, ela precisa respeitar a objeção, de acordo com a lei da UE.
A tentativa de desencorajar os usuários continua quando se clica no link “direito de objeção”. Isso nos leva ao formulário de cancelamento que você pode ver abaixo, novamente com um texto confuso. A Meta exige que indiquem seu país de residência e forneçam seu endereço de e-mail.
Abaixo disso, há duas caixas de texto. Uma para que a pessoa explique por que não quer que seu conteúdo seja usado para treinar a IA – embora, segundo a lei da União Europeia, não seja necessário dar qualquer tipo de explicação. E outra para “informações adicionais que possam nos ajudar a revisar sua objeção”.
Mas não para por aí: a página então exige que o usuário forneça um código de autenticação enviado para seu e-mail (novamente, completamente desnecessário, já que já está logado no Instagram), como se estivesse fazendo uma transferência bancária. Depois, precisa completar um desafio para provar que não é um robô – um processo no qual falhei uma dúzia de vezes antes de finalmente desistir.
Ao usar o conteúdo dos criadores para treinar sua IA, a Meta está destruindo o espírito do Instagram.
Uma alternativa infinitamente mais simples para essa experiência de usuário enganosa seria uma caixa de diálogo clara com a pergunta “você gostaria que a Meta usasse seu conteúdo para treinar seu modelo de IA?”, com dois botões: “sim” ou “não”.
Isso seria uma abordagem indolor e automática. Mas, claro, essas são coisas que você não quer quando está tentando impedir que os usuários desautorizem o uso do seu conteúdo.
Entramos em contato com a Meta para perguntar sobre essas práticas e a empresa reforçou que opera em conformidade com as leis locais. Quando perguntamos se tinham algum comentário para a comunidade criativa, que poderia ver esse treinamento de IA como uma "traição", um porta-voz da empresa afirmou que esse era um processo inclusivo e não exploratório.
“Essas funcionalidades e experiências precisam ser treinadas com informações que reflitam as diversas culturas e idiomas das comunidades que as utilizarão", disse o porta-voz.
