UE abre investigação contra X e Grok por imagens sexualizadas geradas por IA
IA do Elon Musk usa imagens de pessoas reais e manipula para deixar em situações explícitas
A Comissão da União Europeia anunciou nesta segunda-feira (26) a abertura de uma investigação formal para avaliar se a plataforma adotou medidas suficientes para reduzir riscos associados ao uso do Grok dentro do ecossistema do X.
Segundo o órgão, há indícios de que a ferramenta contribuiu para a disseminação de material sexualmente explícito, o que pode violar as regras da Lei de Serviços Digitais da União Europeia.
A Inteligência Artificial Grok, integrada ao X e controlada pelo bilionário Elon Musk, permite que, por meio de comandos simples, usuários alterem ou removam peças de vestuário de pessoas reais.
Essa ferramenta tem sido utilizada para criar imagens manipuladas de mulheres e crianças que utilizam a plataforma, ou para colocar pessoas reais em situações explícitas, posteriormente divulgadas na rede social.
Leia mais: IA para crianças? Elon Musk lança Baby Grok com filtro parental.
O QUE A UNIÃO EUROPEIA ESTÁ INVESTIGANDO?
De acordo com o CNBC Make It, a investigação busca verificar se a empresa responsável avaliou corretamente os riscos antes de liberar funcionalidades do Grok para edição de imagens.
A Comissão Europeia afirma que o problema não está apenas na tecnologia, mas na ausência de barreiras eficazes para impedir abusos, como a criação de deepfakes sexuais sem consentimento.
Autoridades europeias apontam que esses riscos já teriam se concretizado, expondo cidadãos a danos considerados graves. O alerta inclui a circulação de imagens manipuladas que podem se enquadrar como material ilegal, inclusive envolvendo menores de idade, o que eleva o nível de preocupação dos reguladores.
Um estudo do Center for Countering Digital Hate revelou que o Grok teria gerado cerca de 3 milhões de imagens sexualizadas de mulheres em apenas 11 dias após a liberação de um recurso que permitia editar fotos reais diretamente na plataforma.
O levantamento indica que usuários conseguiam, com comandos simples, alterar roupas ou remover peças de vestuário de pessoas reais. A funcionalidade, lançada no fim de dezembro, rapidamente se espalhou pela rede social, impulsionada pela facilidade de uso e pela ausência inicial de restrições técnicas.
COMO ESTÁ A SITUAÇÃO NO BRASIL?
O avanço dessas práticas provocou reações em diversos países. Reino Unido, França, Índia e Malásia abriram apurações semelhantes para entender se a ferramenta violou leis locais ao permitir a criação de imagens sexuais não consensuais.
No Brasil, o tema também acendeu alerta, onde diversos, especialistas em direito digital e proteção de dados já discutem casos envolvendo deepfakes sexuais de mulheres, inclusive com uso de Inteligência Artificial para manipular imagens retiradas de redes sociais, o que pode configurar crimes contra a dignidade e a privacidade.
Leia mais: O que o Brasil vai fazer para parar o Grok?
EMPRESA SERÁ MULTADA?
A investigação atual se soma a outros processos enfrentados pela plataforma X na Europa. Em dezembro, a Comissão Europeia aplicou uma multa de € 120 milhões (R$ 645 milhões) por falhas de transparência e descumprimento de obrigações previstas na legislação digital do bloco.
Pelas regras da Lei de Serviços Digitais, empresas de tecnologia podem sofrer sanções de até 6% da receita global anual caso não combatam conteúdos ilegais ou descumpram exigências regulatórias.
A empresa afirma que remove material ilegal, suspende contas e coopera com autoridades, além de ter anunciado ajustes técnicos para limitar a edição de imagens.
Mesmo com essas medidas, reguladores avaliam que as respostas ainda são insuficientes diante da velocidade e da escala com que o Grok passou a ser usado para gerar imagens manipuladas.
