Apple muda regras da App Store para barrar aplicativos que criam imagens íntimas falsas
Apple detalha regras para remover aplicativos que facilitam a divulgação de imagens íntimas sem consentimento
A Apple atualizou as diretrizes da App Store para reforçar a proibição de aplicativos que criam imagens íntimas de pessoas reais sem consentimento, inclusive com o uso de inteligência artificial.
As mudanças também deixam explícitas as punições para desenvolvedores que escondem funções prejudiciais durante a análise da loja e as ativam depois da aprovação.
As novas regras ampliam as exigências de moderação de conteúdo e reforçam a responsabilidade dos desenvolvedores pela segurança dos serviços oferecidos aos usuários.
Leia também: ‘Pro and Tell’, da Apple, já tem data para acontecer; saiba o que esperar
APLICATIVOS DE NUDIFICAÇÃO ENTRAM NO FOCO
Segundo a Apple, aplicativos que hospedam conteúdo produzido por usuários precisam adotar medidas para filtrar materiais inadequados, permitir denúncias e oferecer ferramentas para bloquear contas abusivas.
Com a atualização, as regras passam a mencionar explicitamente imagens íntimas não consentidas, incluindo aquelas geradas por ferramentas de IA.
A empresa exige que os desenvolvedores impeçam proativamente a publicação desse tipo de material e removam conteúdos irregulares.
Quem não implementar proteções adequadas ou deixar de corrigir violações após receber notificação poderá infringir o código de conduta do programa e ver o aplicativo retirado da App Store.
As regras atingem os chamados aplicativos de nudificação, que simulam a nudez de pessoas reais a partir de fotografias. A Apple afirmou que já proibia conteúdos pornográficos na loja, mas decidiu tornar mais explícitas as obrigações relacionadas à prevenção de imagens íntimas falsas.
FUNÇÕES ESCONDIDAS PODEM LEVAR À REMOÇÃO
Outra mudança esclarece a proibição de aplicativos que apresentam uma finalidade durante a análise da Apple, mas passam a oferecer recursos diferentes depois da aprovação.
A prática, conhecida como bait-and-switch, pode envolver ferramentas que parecem editores comuns de fotos, mas posteriormente liberam funções para gerar imagens íntimas falsas.
A nova diretriz reforça que aplicativos não podem incluir recursos ocultos ou não documentados, nem alterar funções para contornar a avaliação da loja. Os responsáveis podem ter seus aplicativos removidos e perder o acesso ao Apple Developer Program.
APPLE REFORÇA REGRAS CONTRA EXPLORAÇÃO INFANTIL
A revisão também esclarece as consequências para aplicativos que facilitam o tráfico de pessoas ou a exploração de crianças, incluindo a divulgação de material de abuso sexual infantil. Além da remoção da App Store, esses serviços poderão ser bloqueados em canais alternativos de distribuição.
A Apple informou que, em 2025, impediu que mais de 150 mil aplicativos com problemas de segurança chegassem aos usuários e encerrou mais de 193 mil contas de desenvolvedores por fraude e abuso.
