Deepfakes: entenda o que são e se realmente é possível impedi-las
Com a facilidade de acesso e a baixa barreira tecnológica, a criação de deepfakes se tornou uma ameaça à privacidade
A manipulação de imagens e vídeos por meio da Inteligência Artificial (IA) tem gerado novas formas de violência digital. Os chamados deepfakes - conteúdos falsos, mas realistas - criados com ferramentas de IA, já se tornaram comuns na internet.
Agora, uma nova preocupação vem ganhando destaque: aplicativos de “nudificação”, que criam imagens falsas de nudez de pessoas reais, sem consentimento. De acordo com reportagem da Bloomberg, esses aplicativos utilizam modelos generativos de IA treinados com milhares de imagens de nudez para simular como seria o corpo de uma pessoa fotografada vestida.
No entanto, embora alguns destes programas estejam disponíveis publicamente, o uso malicioso é crescente, com vítimas sendo expostas a chantagem, vingança ou difamação, especialmente mulheres, jornalistas e celebridades.
A tecnologia por trás dos deepfakes combina redes neurais profundas e aprendizado de máquina para imitar vozes, expressões e movimentos com grande realismo. No caso dos aplicativos de nudez, o processo vai além: a IA "prevê" como seria o corpo da pessoa sem roupas, gerando imagens explícitas a partir de fotos comuns, como as publicadas em redes sociais.
Casos já foram registrados em diversos países, com vítimas tendo suas imagens íntimas falsas compartilhadas sem consentimento. A Coreia do Sul, por exemplo, iniciou ações legislativas para conter o problema, mas a resposta global ainda é desigual. Em muitas jurisdições, a ausência de leis específicas dificulta a responsabilização dos autores.
Organizações de direitos civis vêm pressionando empresas de tecnologia a adotar medidas mais eficazes. Algumas plataformas utilizam sistemas de moderação, marcas d’água invisíveis e ferramentas de rastreamento digital para tentar conter a disseminação desses conteúdos, mas os criadores continuam encontrando formas de burlar os filtros.
Com a facilidade de acesso e a baixa barreira tecnológica, a criação de deepfakes se tornou uma ameaça à privacidade e à segurança digital.
