Google facilita remoção de deepfakes sexualmente explícitas
O gigante da tecnologia também alterou seu sistema de classificação de pesquisa para reduzir o conteúdo deepfake explícito em geral
A divisão da Alphabet tornou mais fácil para os usuários denunciarem imagens não consensuais encontradas nos resultados de pesquisa, inclusive aquelas criadas por ferramentas de inteligência artificial.
Embora antes dessa atualização já fosse possível que os usuários solicitassem a remoção dessas imagens, de acordo com a nova política, sempre que essa solicitação for atendida, a empresa vai fazer uma varredura de duplicatas da imagem não consensual e removê-las também. O Google também tentará filtrar todos os resultados explícitos em pesquisas semelhantes.
"A cada avanço tecnológico, surgem novas oportunidades para ajudar as pessoas, mas também novas formas de violência que precisamos combater", escreveu a gerente de produtos Emma Higham em um post no blog.
"Como a tecnologia de geração de imagens continuou a se aprimorar nos últimos anos, houve um aumento preocupante de imagens e vídeos gerados que retratam pessoas em contextos sexualmente explícitos, distribuídos na Web sem seu consentimento."
O Google também alterou seu sistema de classificação, rebaixando o conteúdo explícito de deepfake em geral. Até mesmo as pesquisas diretas por deepfakes explícitos passarão por cima da solicitação do usuário e, em vez disso, exibirão "conteúdo de alta qualidade e não explícito - como artigos de notícias relevantes - quando disponível", escreveu a empresa.
Os sites que tiverem um grande número de páginas removidas da pesquisa de acordo com essas políticas também serão rebaixados no algoritmo de pesquisa, tornando-os muito mais difíceis de serem encontrados. O Google afirma que essa estratégia tem funcionado bem para outros tipos de conteúdo nocivo.
A alteração feita pelo Google em seu mecanismo de busca ocorreu apenas um dia depois que a Microsoft solicitou ao Congresso a criação de um "estatuto de fraude deepfake" para combater fraudes com IA em imagens e replicação de voz, e cerca de uma semana depois que o conselho de supervisão da Meta disse que o gigante das mídias sociais não reagiu adequadamente aos dois casos de imagens explícitas e geradas por IA de figuras públicas femininas em seus domínios.
"Há ainda muito trabalho a ser feito para resolver esse problema"
O governo dos EUA já tomou várias medidas para coibir as deepfakes. Recentemente, o Senado aprovou um projeto de lei que permitiria que as vítimas de imagens deepfake sexualmente explícitas processassem o criador delas por danos.
E a FCC proibiu as chamadas automáticas com vozes geradas por IA, que aumentaram no ano passado, especialmente na arena política.
RISCOS CONTINUAM
No entanto, essas ameaças continuam a se propagar, e o Google reconheceu que, mesmo com as alterações feitas hoje em sua política de pesquisa, elas continuarão a aparecer.
"Há ainda muito trabalho a ser feito para resolver esse problema, e vamos continuar desenvolvendo novas soluções para ajudar as pessoas afetadas por esse conteúdo", escreveu Higham no post do blog.
"E como esse é um desafio que vai além dos mecanismos de busca, continuaremos investindo em parcerias em todo o setor e no envolvimento de especialistas para enfrentá-lo como sociedade."
