O que o Brasil vai fazer para parar o Grok?
Apesar de ter sido cancelada por Elon Musk, ferramenta que retira roupas de pessoas em fotografias continua funcionando com prompts; Governo estuda pedir derrubada da funcionalidade
A Grok, ferramenta de inteligência artificial integrada à rede social X, continua disponível no Brasil mesmo depois de gerar milhares de deepfakes sexualizados de mulheres e adolescentes. A IA de Elon Musk “tira a roupa” das pessoas em fotos está gerando repercussões pelo mundo.
No Reino Unido e na Austrália, a plataforma, que desde o final de 2025 permite que o usuário retire peças de roupas de pessoas com base nas fotos publicadas, está a um fio de ser banida. No Brasil, ela está sendo investigada pelo Ministério Público Federal (MPF) e desafia o governo na busca por ações efetivas.
Fontes do governo brasileiro ouvidas pela Fast Company Brasil confirmam que as principais pastas ligadas ao digital estão ainda em discussões para entrar com medidas cabíveis contra o X. As medidas mais próximas de serem anunciadas é o pedido de informações e o pedido de retirada da feature de despir pessoas do Grok.
No final desta quarta-feira (14), a empresa anunciou que a ferramenta de alterar imagens foi retirada do ar para usuários comuns. Mas ainda é liberada para os pagantes da assinatura do x Premium. A advogada e professora da FGV Direito Rio, Yasmin Curzi, explica que esse modelo segue infringindo as leis brasileiras.
O Idec, Instituto de Defesa de Consumidores enviou nesta semana um ofício para o governo federal pedindo suspensão imediata do Grok, por considerar que a ferramenta viola direitos do consumidor, coloca usuárias em risco e ultrapassa leis já estabelecidas, como o Código de Defesa do Consumidor, o Marco Civil da Internet, a Lei Carolina Dieckmann e dispositivos do novo Estatuto de proteção de crianças e adolescentes.
O pedido reitera a denúncia feita pela deputada federal Erika Hilton (PSOL-SP) ao MPF. “Há evidências de que a IA viabilizou a produção e a divulgação de deepfakes de natureza erótica e pornográfica, ampliando a circulação dos conteúdos mesmo após denúncias públicas", afirma o documento.
A entidade argumenta que o X oferece a funcionalidade sem salvaguardas básicas de segurança e sem mecanismos eficazes de denúncia ou fiscalização. A ferramenta coloca mulheres e adolescentes em um estado permanente de vulnerabilidade: qualquer foto comum publicada no X pode ser transformada em material sexualizado em minutos, sem consentimento.
De acordo com o grupo independente de pesquisa, AI Forensics, mais de 20 mil imagens foram geradas em solicitação ao chatbot na primeira semana deste ano. Dessas, 53% continham pessoas com biquíni e roupas transparentes. Boa parte do conteúdo envolve pedidos para “colocar” ou “remover” roupas de mulheres reais, 6% eram pedidos de imagens de pessoas públicas. E 2% das imagens tinham mulheres com menos de 18 anos.
Nesta quarta-feira (14), Elon Musk saiu em defesa do Grok. Ele falou que não houve criação de imagens de meninas menores de idades pelo Grok. “Quando exigido para gerar essas fotografias, ele se recusa a produzir qualquer foto ilegal”, afirmou.
A LEI JÁ EXISTE, FALTA A TÉCNICA
O Brasil não é novato em banir o X (ex-Twitter). Em 2024, a plataforma ficou fora do ar por mais um mês depois da suspensão do Supremo Tribunal Federal (STF). De acordo com especialistas, haveria base legal e jurídica para apoiar uma nova retirada do ar.
"Hoje há mais controle sobre a fabricação de uma geladeira do que sobre o funcionamento de uma IA que afeta o mundo inteiro"
Yasmin Curzi, da FGV Direito Rio
Para a professora Yasmin Curzi, da FGV Direito Rio, a situação não exige novas leis, mas sim a aplicação das normas que já existem. Ela afirma que o problema começa muito antes da denúncia: na falta de testes, auditorias e protocolos mínimos antes de liberar a ferramenta para milhões de usuários. “Hoje há mais controle sobre a fabricação de uma geladeira do que sobre o funcionamento de uma IA que afeta o mundo inteiro”, diz.
Para o governo, no entanto, há uma questão técnica a ser resolvida: não é possível retirar o X do ar pelas violações da ferramenta de IA do Grok, uma vez que são plataformas diferentes. Trata-se de uma discussão inédita no mundo das deepfakes: não é sobre pedir para tirar os dados de treinamento da IA ou de retirar as imagens do ar, mas sim de retirar uma única ferramenta dentro do chatbot de Elon Musk.
Não há como ter certeza se a ferramenta saiu ou não do ar, uma vez que os grandes modelos de linguagem (LLM) não são transparentes ou abertos. Ainda não existem meios técnicos que permitam desligar uma única feature dentro de um chatbot de IA. Os brasileiros não são os únicos nesta sinuca de bico. É um desafio das autoridades mundiais para enfrentar e reforçar as regras nas “caixas pretas” da IA generativa.
Tanto que, mesmo depois de terem anunciado que a feature de retirar as roupas não funciona mais nesta quarta-feira, ainda há aqueles que estão conseguindo resultados com o Grok. Isso porque os sistemas de IA de LLM podem ser contornados a partir de prompts e pedidos repetidos.
As autoridades ficam de mãos atadas e são obrigadas a confiar nas ações internas das companhias de tecnologia. No caso do Grok, significa confiar em Elon Musk, o homem com um grande histórico de enfrentamento de autoridades regulatórias. Outra hora de lembrar: Musk demitiu boa parte do time voltado para desenvolvimento ético de IA na xAI nos últimos anos. No final do ano passado, um estudante de 20 anos foi colocado para gerenciar o treinamento do modelo da IA.
De acordo com a diretora da SaferNet, Juliana Cunha, o X há muito deixou de cumprir padrões mínimos de segurança e o Grok expõe de forma explícita uma cultura de abuso já presente na plataforma. “O Grok só torna explícito um problema que já existia: a plataforma floresce em cima de uma cultura de abuso e de assédio, especialmente contra mulheres e adolescentes.”
Levantamento feito por pesquisadores independentes e publicado pela Bloomberg mostram que, entre os dias 5 e 6 de janeiro, 6,7 mil imagens de cunho sexual ou nudez foram gerados por hora no Grok.
NO MUNDO, É BLOQUEIO
O momento geopolítico do mundo, com as ações imprevisíveis de Donald Trump, aliado político de Elon Musk, não ajuda as ações governamentais contra o Grok. Dois países, Indonésia e Malásia bloquearam o acesso à IA de Musk. Já em outros lugares, como Reino Unido, União Europeia e Austrália anunciaram investigações contra o xAI.
A França iniciou apurações após denúncias de parlamentares. A Índia pediu esclarecimentos e pode impor novas obrigações de contenção. A Comissão Europeia ordenou a retenção de documentos e dados internos do X para garantir conformidade com o Digital Services Act.
No Canadá e na Austrália, agências oficiais começaram a analisar casos de deepfakes envolvendo mulheres e adolescentes. Nos Estados Unidos, senadores pressionam Apple e Google para removerem o app das lojas, e parlamentares pedem investigações federais sobre o uso da ferramenta.
Nada disso impediu que, na última semana, a xAI, empresa de inteligência artificial de Elon Musk, responsável pelo Grok, levantasse US$ 20 bilhões em investimentos. Para especialistas em segurança digital, a polêmica pode inclusive estar alimentando a visibilidade da plataforma. “Do ponto de vista de negócios, isso parece uma estratégia de visibilidade. Quanto mais polêmica, mais atenção”, avaliou Juliana.
Vítimas continuam vendo suas imagens circularem sem controle, enquanto a plataforma opera livremente no país. O Brasil ainda não decidiu como ou quando vai lidar com o Grok. Mas, diante do que ocorre internacionalmente, a janela para uma resposta rápida está se estreitando.
