Meta processa empresa por trás do app de IA para nudez
Empresa alega uso indevido de suas plataformas para promover o aplicativo
A Meta entrou com uma ação judicial contra a Joy Timeline HK Ltd., empresa sediada em Hong Kong, responsável pelo desenvolvimento do aplicativo CrushAI.
Segundo a Meta, a Joy Timeline veiculou anúncios no Facebook e Instagram promovendo o aplicativo que utiliza inteligência artificial para gerar imagens de nudez a partir de fotos de pessoas reais, sem o consentimento delas.
Segundo comunicado da Meta, a denúncia partiu de um relatório do site 404 Media e de uma pesquisa conduzida por Alexios Mantzarlis, da Cornell Tech. A investigação revela ainda que pelo menos 8.010 anúncios relacionados ao CrushAI foram veiculados nas plataformas da Meta apenas nas duas primeiras semanas do ano.
A situação também motivou o senador norte-americano Dick Durbin, de Illinois, a enviar uma carta ao CEO Mark Zuckerberg, cobrando providências sobre a exibição de conteúdos que violam os próprios padrões da empresa.
O processo foi movido em Hong Kong após diversas tentativas da Joy Timeline de burlar os mecanismos de revisão de anúncios, mesmo após remoções sucessivas por violação de políticas. A Meta afirmou que a ação judicial busca impedir novas publicações do tipo e reforça o compromisso da empresa com a segurança digital.
A empresa também informou que aprimorou seus mecanismos de fiscalização e desenvolveu tecnologia específica para identificar esse tipo de propaganda, inclusive quando os anúncios não contêm nudez explícita. Além disso, a Meta compartilha sinais com outras empresas de tecnologia para ampliar a proteção em diferentes plataformas.
A companhia afirmou que está monitorando as estratégias adotadas pelos criadores desses aplicativos, inclusive empregando os mesmos métodos usados contra redes coordenadas de contas falsas. Desde o início do ano, foram identificadas e desmontadas quatro redes distintas que operavam campanhas similares de anúncios.
A Meta reforçou que continuará adotando medidas legais e tecnológicas para proteger seus usuários e impedir o uso abusivo de suas plataformas.
