Governo manda X bloquear imagens do Grok com teor sexual
Recomendação da ANPD, MPF e Senacon pede bloqueio imediato da geração e da circulação desse tipo de conteúdo
O governo brasileiro se movimentou para barrar o uso da ferramenta do Grok (inteligência artificial do X) que sexualiza imagens de pessoas sem o consentimento. A Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) enviaram uma recomendação conjunta ao X para que a empresa impeça a geração e a circulação de imagens com teor sexual produzidas pelo Grok no país.
A iniciativa é inédita no Brasil por tratar diretamente do funcionamento de uma ferramenta de IA generativa em larga escala, e não apenas do conteúdo publicado por usuários ou pelos dados usados para treinar os modelos. Os órgãos avaliam que o próprio desenho da tecnologia e não só seu uso pode violar direitos fundamentais.
Segundo os órgãos, denúncias recebidas e testes feitos pelas próprias instituições indicam que a ferramenta de inteligência artificial tem sido usada para criar deepfakes sexualizadas a partir de imagens de pessoas reais, incluindo mulheres, crianças e adolescentes. Em alguns casos, esse material ficou acessível a qualquer usuário da plataforma, ampliando o risco de exposição indevida e de danos às pessoas retratadas.
A atuação conjunta, explicam as instituições, se justifica porque o problema atinge diferentes frentes ao mesmo tempo: proteção de dados pessoais, relações de consumo e direitos fundamentais, como dignidade, privacidade e proteção integral de crianças e adolescentes.
Na prática, a recomendação pede que o X bloqueie imediatamente qualquer funcionalidade do Grok capaz de gerar imagens, vídeos ou áudios de pessoas identificáveis em contextos sexualizados ou erotizados. A exigência vale para todas as versões e modalidades da ferramenta, inclusive para usuários pagantes. Além disso, a empresa deve criar, em até 30 dias, procedimentos técnicos claros para identificar e remover conteúdos desse tipo que já estejam disponíveis na plataforma.
SUSPENDER CONTAS E VARRER O X
Os órgãos também recomendam a suspensão das contas envolvidas na produção dessas imagens, a criação de canais de denúncia mais acessíveis e transparentes e a elaboração de um relatório de impacto à proteção de dados pessoais, específico para o uso do Grok na manipulação de imagens de pessoas reais.
Levantamentos independentes indicam que o Grok chegou a gerar cerca de 6,7 mil imagens sexualizadas por hora no auge da circulação internacional desse tipo de conteúdo. Um estudo do grupo AI Forensics analisou mais de 20 mil imagens geradas em poucos dias e apontou que 53% delas exibiam pessoas com pouca roupa, enquanto uma parcela envolvia adolescentes e pedidos explícitos de remoção de vestimentas de mulheres reais.
Caso o X não cumpra as recomendações ou apresente medidas consideradas insuficientes, a ANPD, o MPF e a Senacon afirmam que poderão adotar outras providências, tanto na esfera administrativa quanto na judicial, dentro das atribuições de cada órgão.
A manifestação oficial ocorre dias depois de o funcionamento do Grok no Brasil ter sido questionado por organizações da sociedade civil e especialistas e sinaliza que o debate sobre os limites da ferramenta começa a sair do campo das denúncias para o da resposta institucional.
