Roupas criadas para confundir câmeras de vigilância com IA
A noRecognition usa padrões gerados por IA para tentar confundir modelos de visão computacional usados em câmeras de vigilância.
O avanço da vigilância pública levou ao surgimento de uma reação contrária: roupas desenvolvidas para confundir câmeras de segurança com inteligência artificial.
A proposta é deixar perplexos sistemas como as câmeras corporais da Axon, as câmeras da Flock e outras ferramentas de vigilância em massa por meio de truques como padrões que os sensores de IA confundem com animais, objetos ou tecidos refletivos.
Uma nova marca de roupas de edição limitada e financiada por crowdfunding promete peças com padrões capazes de confundir 11 modelos de visão computacional. Ela se chama noRecognition.
O autor da ideia é Bill Swearingen, ex-chefe de inteligência e fundador do SecKC (encontro mensal sobre segurança realizado em Kansas City, nos EUA).
Ele criou a noRecognition depois de executar 31,7 milhões de testes digitais para descobrir quais tipos de padrões conseguem confundir vários modelos ao mesmo tempo, com o objetivo de criar uma camuflagem adversarial universal.
Especialista em cibersegurança, ele usou IA ao longo de todo o processo, inclusive para construir e treinar um modelo, utilizar esse modelo para gerar e testar a geometria dos padrões adversariais e determinar quais funcionam melhor.
Para Swearingen, o desafio é que um padrão capaz de superar um modelo muitas vezes não consegue fazer o mesmo com vários modelos diferentes.
“Consegui superar todos os modelos que testei, então superar um único modelo é um problema resolvido para mim”, afirma. “A busca agora é encontrar aquele padrão que funcione em vários modelos ao mesmo tempo.”
Uma campanha no Kickstarter, lançada no início de agosto com meta de arrecadar US$ 5 mil, já levantou mais de US$ 40 mil. O dinheiro será usado para comprar tecido, câmeras e capacidade computacional, diz Swearingen, que considera a generosidade e a resposta do público “comovente”.
A linha de roupas de edição limitada inclui uma peça tubular que pode ser usada como proteção para o pescoço, uma camiseta e um moletom, além de adesivos e patches. Serão produzidas 50 unidades de cada item e cada uma terá um padrão gerado especificamente para uma única pessoa.
O site de Swearingen mostra exemplos de alguns dos padrões gerados pelo modelo da noRecognition, mas seus trabalhos mais eficazes ficam fora da internet.
Ao manter os padrões mais eficientes longe do site, a noRecognition impede que operadores de câmeras de vigilância treinem seus modelos com base no que a marca produz.
Navios de guerra da Primeira Guerra Mundial usavam a chamada “camuflagem dazzle”, com padrões em preto e branco e linhas em zigue-zague para confundir embarcações inimigas.
Hoje, as montadoras de automóveis usam camuflagem em carros para esconder detalhes durante testes de direção. Já a moda adversarial utiliza principalmente padrões repetitivos.
A maioria dos padrões, embora não todos, é formada por elementos repetitivos, já que esse tipo de desenho consegue passar pelo processo de corte do tecido e aparece no campo de visão de um detector independentemente da parte da roupa que seja capturada pela câmera.
Leia mais:As vantagens e os riscos das 3 tecnologias de reconhecimento facial
Esses padrões não foram criados para serem esteticamente agradáveis; eles priorizam a função. O tamanho específico do desenho é fundamental para determinar se ele funciona ou não.
Algumas pessoas se vestem para as câmeras. A noRecognition foi criada para fazer exatamente o contrário.
