À prova de fraude: tecnologia torna impossível ocultar uso de IA em imagens
Steg AI aposta em marcas d’água invisíveis (e impossíveis de remover) para rastrear imagens falsas em um mundo dominado pela inteligência artificial
É raro que um projeto de pesquisa esotérico, difícil até de pronunciar e desenvolvido ao longo de uma década, se transforme em uma tecnologia tão crucial para a segurança nacional a ponto de ser citado pelo presidente dos Estados Unidos diretamente da Casa Branca. Mas foi exatamente isso que aconteceu com o trabalho de Eric Wengrowski, CEO da Steg AI.
Wengrowski passou quase 10 anos pesquisando a esteganografia – um método altamente técnico para rastrear imagens à medida que elas circulam pelos caminhos do ciberespaço – como foco de seu doutorado na Universidade Rutgers.
Depois de obter o título, Wengrowski e um grupo de cofundadores transformaram a tecnologia em uma pequena startup. Por vários anos, a empresa cresceu, mas trabalhou quase sempre longe dos holofotes. De repente, os geradores de imagens por IA explodiram no imaginário público. E, para o pesquisador e a equipe da Steg.AI, tudo mudou de uma hora para outra.
A esteganografia é uma técnica que permite embutir um código invisível nos pixels de uma imagem. Na prática, um algoritmo complexo altera de forma sutil pixels selecionados, de um modo imperceptível ao olho humano.
As imagens não apresentam qualquer diferença visual depois de receberem uma marca d’água esteganográfica. Mas, quando um software especializado analisa a imagem marcada, o código único embutido nos pixels aparece com clareza para os “olhos eletrônicos" do sistema.
A presença desse código permite que empresas como a Steg.AI rastreiem uma imagem até sua origem com altíssimo grau de precisão. Mais importante: como o código é incorporado diretamente aos pixels da imagem, ele é quase impossível de remover.
Agentes mal-intencionados podem facilmente cortar uma marca d’água visível ou usar ferramentas como o Photoshop para apagar dados dos campos de metadados IPTC ou EXIF de uma imagem.
Já as marcas d’água esteganográficas, por estarem inseridas diretamente na parte visual da imagem, acompanham o arquivo para onde quer que ele vá. E sobrevivem às manipulações mais comuns que pessoas mal-intencionadas costumam empregar para tentar removê-las.
Todas as marcas d’água esteganográficas resistem a truques típicos de ladrões amadores de imagens, como cortes ou até a prática comum de tirar um print da tela para copiar o conteúdo de forma discreta.
Mas a tecnologia da Steg.AI vai além. Se, por exemplo, você abrir uma imagem marcada pela empresa na tela do computador, pegar o celular e fotografar fisicamente essa tela, a marca d’água ainda estará presente na nova imagem salva no telefone. A cópia continuará rastreável até a origem, graças à tecnologia da Steg.
FALSO OU VERDADEIRO? A IA MUDA TUDO
Quando Wengrowski desenvolveu a tecnologia da Steg.AI, ele sabia que era algo interessante. Tinha a intuição de que poderia ser útil para alguma coisa. Mas para quê, exatamente, não estava claro. Então, em 2022, tudo mudou.
Quase ao mesmo tempo, a OpenAI lançou seu modelo de geração de imagens Davinci, o Midjourney apresentou uma tecnologia que, à época, se tornou líder de mercado, e o Google apostou na geração de imagens em seus modelos Bard e, mais tarde, Gemini.
as marcas d’água esteganográficas acompanham o arquivo de imagem para onde quer que ele vá.
Praticamente da noite para o dia, o mundo foi inundado por imagens geradas por IA. E, muito rapidamente, elas se tornaram tão realistas que pessoas comuns passaram a ter dificuldade para distinguir o que era verdadeiro do que havia sido criado por algoritmos.
Isso criou um enorme problema para as empresas de IA. Elas queriam disseminar suas tecnologias, mas temiam as consequências sociais (e legais) caso suas imagens fossem usadas em deepfakes para enganar pessoas ou até influenciar eleições.
De forma mais ampla, qualquer setor que depende da veracidade de imagens passou a enfrentar um desafio gigantesco: como saber o que é real e o que foi gerado por IA?
Reportagens, investigações e até tribunais de crimes de guerra dependem de imagens como evidência. O que acontece quando esse material pode ser criado de forma rápida e barata por um algoritmo?
Sim, empresas de IA podem adicionar marcas d’água visíveis às imagens – como uma pequena estrela do Gemini no canto inferior – ou inserir avisos de “gerado por IA” nos metadados. Mas remover essas indicações é algo trivial até para golpistas pouco sofisticados.
Com os geradores de imagens por IA tomando o mundo de assalto, a origem e a credibilidade de praticamente toda imagem online passaram a ser questionadas.
OBRIGADO, SENHOR PRESIDENTE
Isso levou a uma situação curiosa para quem vinha se dedicando, de forma quase solitária, a uma paixão técnica altamente específica.
Em 30 de outubro de 2023, o presidente Joe Biden assinou uma ordem executiva que mencionava explicitamente tecnologias de marcação de imagens por IA, destacando-as como um fator crucial para a segurança nacional dos EUA e determinando seu uso por todas as agências federais.
Na prática, Biden estava exigindo o uso de tecnologias como a esteganografia – citada diretamente a partir da Casa Branca. Desde a ordem executiva, e com o crescimento acelerado das imagens geradas por IA, a receita da Steg.AI aumentou 500%.
As empresas podem embutir uma marca d’água esteganográfica diretamente nas imagens no momento em que elas são geradas por IA. Ao longo de toda a vida útil da imagem, o código a acompanha, mesmo que ela seja repostada, editada ou alterada.
Se essa imagem for usada em um deepfake ou para manipular ou assediar pessoas, a empresa que a criou pode ler rapidamente a marca d’água esteganográfica embutida nos pixels, rotulá-la de forma definitiva como falsa e neutralizar com rapidez qualquer dano causado.
Se você criou uma imagem por IA no último ano, quase certamente usou esteganografia sem saber. A maioria das grandes empresas de geração de imagens já utiliza essa tecnologia – muitas delas usam a da Steg.AI.
Em um mundo no qual imagens geradas por IA são tão convincentes que enganam facilmente a maioria dos detectores – e até analistas treinados –, muitas empresas veem a esteganografia como a única barreira contra a destruição completa de qualquer resquício de verdade visual.
UMA JORNADA INESPERADA
A avalanche de imagens criadas por IA também revelou desafios inesperados. Quando a Steg.AI foi lançada, Wengrowski acreditava que as pessoas iriam querer uma tecnologia capaz de provar se uma imagem era real ou falsa. Na prática, ele se surpreendeu com o quão pouco isso importa para muita gente.
Muitos usuários aceitam conteúdos gerados por IA desde que sejam engraçados, informativos ou envolventes. Se estão ou não devidamente rotulados como IA, faz pouca diferença. Mais ainda: isso também importa pouco para as plataformas de redes sociais que distribuem esse conteúdo.
o código acompanha a imagem para sempre, mesmo que ela seja repostada, editada ou alterada.
Já para as empresas que criam essas imagens – e que enfrentam riscos legais e de reputação se algo sair do controle –, a questão é fundamental. Por isso, a Steg.AI continua aprimorando a tecnologia, tornando suas marcas d’água cada vez mais difíceis de remover.
A história de Wengrowski é inspiradora para qualquer pessoa que esteja trabalhando arduamente em uma tecnologia ainda não comprovada, convicta de seu valor, mas sem saber se o mundo algum dia irá percebê-lo.
“Há algo a ser dito sobre saber que uma tecnologia é boa, continuar a aprimorá-la mesmo sem ideia de onde isso vai dar e simplesmente confiar que, algum dia, ela terá valor para o mundo”, afirma Wengrowski.
No caso da Steg.AI, essa aposta se mostrou vencedora.
