Artistas criam modelo de IA que prevê casos de violência policial
Dois artistas patrocinados pela Mozilla Foundation resolveram subverter o uso controverso de big data feito pela polícia para prever onde crimes podem vir a ser cometidos. O projeto artístico, chamado Future Wake, vira essa tendência de cabeça para baixo, e prevê onde acontecerão os próximos casos de brutalidade policial, utilizando-se da IA (inteligência artificial) e de registros de casos reais.
O Future Wake é um site interativo com imagens e histórias de pessoas fictícias que, segundo os dados, poderiam ser vítimas de brutalidade policial no futuro. Os artistas treinaram visão computacional e modelos de processamento da linguagem com registros policiais precedentes para gerar similaridade ficcional, assim como criar as falas das vítimas em potencial. Os personagens, todos gerados por computador, se assemelham a deepfakes.
O modelo de IA prevê ainda o local e a forma de brutalidade policial que estariam por vir. A vítima nos conta a história de como será alvejada pela polícia, assim como o evento que levará à sua morte.
“Policiais da Violent Crimes Task Force (Força Tarefa para Crimes Violentos) virão à minha casa com uma intimação – já que sou procurado por um delito”, diz um homem latino que, de acordo com o projeto, será vítima de violência policial em Los Angeles. “Os policiais entrarão na minha casa, eu vou sacar uma arma e começaremos um tiroteio. Os policiais vão atirar e me matar”.
(Crédito: Future Wake)
A dupla criadora do projeto Future Wake – que decidiu se manter anônima – diz que o trabalho foi concebido com a intenção de “provocar discussões em torno do policiamento preditivo e dos encontros fatais associados à polícia”.
Ao longo da última década, os departamentos de polícia norte-americanos fizeram experimentos usando análises de big data para prever se futuros crimes poderiam ocorrer, ou para identificar indivíduos que estariam mais propensos a cometer ou ser vítimas de crimes. Essa prática tem sido investigada, porque os bancos de dados com crimes anteriores analisados pelos algoritmos carregam inconsistências e parcialidades, e essas distorções tendem a ser perpetuadas pelas predições.
Os dados usados para treinar a inteligência do projeto Future Wake vêm Fatal Encounters (Encontros Fatais, em tradução livre), banco de dados colaborativo que contém registros de 30.798 vítimas mortas pela polícia nos EUA entre janeiro de 2000 e setembro de 2021. O projeto também usou dados do Mapping Police Violence (Mapeando a Violência Policial), que contém detalhes sobre 9.468 vítimas mortas pela polícia nos EUA de janeiro de 2013 a setembro de 2021.
O trabalho artístico e o site, que entrou no ar em 14 de outubro, são financiados pela Mozilla’s Creative Media Awards.
