Essa camiseta é uma capa de invisibilidade contra a IA
Estampa criada pelo designer Simon Weckert confunde sistemas de vigilância e expõe uma fragilidade da visão computacional.
Aos olhos humanos, a camisa Digital Camouflage tem uma estampa abstrata e colorida, formada por elementos verdes, rosas e laranjas. Para os sistemas de inteligência artificial, porém, ela esconde a pessoa que está usando a peça.
O designer alemão Simon Weckert criou a camisa de botões para confundir sistemas de vigilância com IA, após a instalação de câmeras de segurança em Berlim no início deste ano.
A peça faz parte de uma tendência emergente de roupas criadas para atrapalhar sistemas de vigilância, conhecida como design de moda adversarial. A estratégia utiliza padrões complexos para interferir no reconhecimento facial e na detecção de objetos.
Leia também: Sorria, você está sendo vigiado: o “solucionismo tecnológico” na segurança pública
COMO A ESTAMPA CONFUNDE A IA
“Os sistemas de detecção de objetos não ‘enxergam’ como nós”, explica Weckert à Fast Company. “Eles examinam uma imagem em busca de padrões estatísticos — combinações de contornos, texturas e cores que aprenderam a associar à categoria ‘pessoa’.”
A estampa foi matematicamente otimizada para enviar sinais errados a essas redes. Segundo Weckert, a camisa, vendida por cerca de US$ 88, precisa cumprir duas funções: confundir a IA e, ao mesmo tempo, continuar funcionando como uma peça de roupa.
“Os padrões adversariais brutos produzidos pela otimização são eficazes, mas visualmente caóticos — imagens feitas exclusivamente para as máquinas”, afirma.
Por isso, a estampa final busca um ponto de equilíbrio entre as necessidades do algoritmo e o gosto humano. Para Weckert, essa ambiguidade é uma parte importante do conceito.
“É uma peça dirigida simultaneamente a dois tipos de observador, e cada um vê algo completamente diferente”, acrescenta.
UMA FRAGILIDADE DA VIGILÂNCIA
Weckert testou a estampa contra o You Only Look Once (YOLO), sistema de detecção de código aberto baseado na mesma categoria de tecnologia usada por diversos produtos comerciais de vigilância.
No entanto, a camisa não foi necessariamente criada para derrotar um sistema específico. A proposta é questionar quanta confiança deve ser depositada em uma tecnologia que pode ser desorientada por um simples pedaço de tecido.
“Não faço afirmações sobre sistemas proprietários específicos”, ressalta Weckert.
O objetivo da camisa não é derrotar determinado produto, mas revelar uma fragilidade estrutural presente em toda essa categoria de tecnologia.
