Nudes para todos: esta câmera mostra a pessoa na foto totalmente nua
Projeto artístico demonstra como a inteligência artificial pode comprometer a realidade e a privacidade
O artista alemão Mathias Vef e o designer Benedikt Groß acharam que seria interessante criar uma câmera compacta de deepfake capaz de gerar nudes não consensuais de quem é fotografado.
E estavam certos – não por razões obscenas, mas porque serve a um propósito maior: mostrar o quão rápido estamos caminhando para um futuro sombrio. A inteligência artificial generativa está destruindo a realidade. E agora ela pode fazer isso quase em tempo real, diante dos nossos olhos, com o toque de um botão.
Vef e Groß estudaram design especulativo na Royal College of Art, em Londres, onde exploraram o futuro da tecnologia e suas implicações. Conversando sobre IA generativa, com a qual ambos trabalharam por um tempo, surgiu o tema dos deepfakes.
Foi quando pensaram nas piores consequências possíveis da tecnologia e tiveram a ideia de criar esta câmera “nudificante” – batizada de Nuca. Embora na universidade eles geralmente trabalhassem com adereços e apetrechos em vez de tecnologia real em diferentes projetos, algo tão avançado quanto a Nuca agora era possível.
A câmera utiliza inteligência artificial para processar uma imagem capturada na nuvem, reconstruindo um nu do sujeito fotografado. Seu design segue o formato de uma câmera compacta padrão e ela foi totalmente projetada e impressa em 3D. Equipada com lentes de 37 milímetros, a câmera deepfake tem um celular que captura a imagem e serve como visor.
Ao pressionar o botão do obturador, a foto é enviada para a nuvem para processamento. Lá, a imagem é analisada por completo – pose, corpo e rosto – com base em 45 identificadores, como gênero, idade, etnia, expressão e tipo de corpo.
As informações são enviadas para um motor com Stable Diffusion integrado que executa um dos muitos modelos de difusão especializados em gerar nudes disponíveis. Ele interpreta essas informações e gera o nu base. A imagem resultante é processada usando uma ferramenta deepfake que adiciona perfeitamente o rosto do sujeito ao corpo nu.
NUCA Camera – AI Powered “Natural Nudity” (explainer) from Mathias Vef on Vimeo.
O tempo de processamento é bastante curto, 10 segundos. “Um dos desafios foi reduzir o tempo de geração das imagens. Usamos principalmente ferramentas disponíveis para o grande público, mas combiná-las de maneira eficiente e colocá-las em um dispositivo funcional é algo que nunca havia sido feito antes””, afirma Vef.
AMEAÇA À REALIDADE
Por enquanto, a Nuca é um protótipo funcional criado como um experimento artístico para demonstrar como estamos cada vez mais nos aproximando de um futuro apocalíptico. Ela está em exposição na galeria nüüd.berlin, em Berlim.
Mas não ficaria surpreso se, em um futuro próximo, algo com características semelhantes fosse lançado, seja como um simples aplicativo ou como um dispositivo próprio – talvez uma verdadeira câmera deepfake.
A Nuca foi criada para nos provocar, mas o projeto já foi superado em muito por aplicativos que são usados para todo o tipo de coisa prejudicial: despir pessoas para humilhá-las ou intimidá-las, manipular as massas com conteúdo falso, enganar centenas de milhares com vídeos ou áudios deepfake ou simplesmente destruir a realidade como a conhecemos.
Até agora, muitas dessas ferramentas continuam fora do alcance de todos, a não ser os usuários mais avançados. Mas é provável que uma tecnologia muito melhor do que a Nuca esteja disponível mais cedo do que pensamos.
Produtos como o Apple Vision Pro e o AirPods Pro processam ativamente a realidade analógica que percebemos naturalmente em novas realidades sintéticas. É apenas uma questão de tempo até cairmos em um buraco negro do qual não conseguiremos escapar.
SERÁ QUE APRENDEREMOS ALGUMA LIÇÃO?
O que nos leva de volta à própria IA.
Ainda assim, Vef e Groß acreditam que sua provocação artística pode nos levar a refletir sobre os perigos. “Nós dois acreditamos que o debate está apenas começando, porque as possibilidades parecem infinitas. Estamos apenas no início dessa jornada”, destaca Vef.
“É muito importante sermos tanto críticos quanto exploradores, pois precisamos saber o que está por vir para poder discutir as possibilidades e suas implicações. Nossa câmera é uma forma de fazer isso.”
Infelizmente, aposto todos os bitcoins que não tenho na ideia de que não aprenderemos nenhuma lição com este experimento e que poderemos comprar algo como a Nuca – ou pior – no AliExpress em breve.
