Governo Brasileiro Exige Resposta Imediata do X Contra Conteúdo Explícito Gerado por IA
O governo brasileiro, por meio de órgãos como a Agência Nacional de Proteção de Dados (ANPD), o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon), emitiu uma recomendação contundente para que a plataforma X, anteriormente conhecida como Twitter, tome medidas drásticas contra a geração de imagens sexualizadas por meio de sua ferramenta de inteligência artificial, o Grok.
A recomendação, divulgada nesta terça-feira (20), exige a suspensão imediata de contas de usuários que utilizaram o Grok para criar conteúdos explícitos envolvendo mulheres, adolescentes e crianças. A ação visa coibir a disseminação de deepfakes, alertando para o risco de multas severas e restrições à atuação da plataforma no país.
As instituições definiram um prazo até 27 de janeiro de 2026 para que a empresa de Elon Musk apresente um relatório sobre a adoção das medidas urgentes solicitadas. O descumprimento poderá acarretar sanções administrativas e judiciais com base no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados (LGPD). Conforme o artigo 12 do Marco Civil da Internet, as multas podem chegar a 10% do faturamento do grupo econômico no Brasil, considerando a gravidade da infração.
Comprovação da Manipulação de Imagens pelo Grok
Testes realizados pela Coordenação de Fiscalização da ANPD confirmaram a capacidade do Grok de manipular fotografias reais. A inteligência artificial é capaz de inserir pessoas em contextos íntimos e erotizados, alterando roupas e cenários originais de forma a criar deepfakes. Essa funcionalidade viola princípios fundamentais da LGPD, como a boa-fé, a finalidade e o melhor interesse de crianças e adolescentes.
Exigências para a Plataforma X
As autoridades recomendaram que a rede social de Elon Musk implemente, em no máximo 30 dias, procedimentos claros e eficazes para identificar, revisar e remover conteúdos explícitos gerados pelo Grok que já estejam disponíveis na plataforma. A conduta da plataforma é vista como contraditória, pois o sistema permite práticas que suas próprias políticas internas proíbem, como nudez não consensual e exploração sexual infantil.
Entre as medidas exigidas estão a implementação de barreiras técnicas para impedir a geração de imagens, vídeos ou áudios sexualizados de menores ou adultos sem autorização. A suspensão imediata e permanente de contas que criam ou compartilham deepfakes não consensuais também foi solicitada, assim como a elaboração de um Relatório de Impacto à Proteção de Dados Pessoais (RIPD) específico sobre o uso da IA e a criação de mecanismos acessíveis para denúncias.
Denúncias e Apoio Internacional
A nota técnica considerou denúncias importantes feitas pela deputada federal Erika Hilton (PSOL-SP), pelo Instituto Brasileiro de Defesa do Consumidor (Idec) e pela Secretaria de Políticas Digitais da Presidência da República. Erika Hilton celebrou a ação como uma “vitória gigante” na defesa de mulheres e crianças contra a exploração por meio de tecnologias.
O governo brasileiro destacou que órgãos reguladores do Reino Unido e da Itália já iniciaram investigações semelhantes. Países como Malásia e Indonésia chegaram a bloquear o acesso ao Grok devido à geração de conteúdo pornográfico sintético.
Ações de Partidos e Reconhecimento da Falha
O Partido dos Trabalhadores (PT) e o PSOL apresentaram ações formais contra o uso do Grok. A deputada Erika Hilton acionou a ANPD e o MPF apontando que a ferramenta ultrapassava limites ao distribuir “pornografia infantil”. O PT solicitou a abertura de investigação e medidas para bloquear ou banir o uso do Grok no Brasil.
Em resposta a questionamentos de usuários, o próprio perfil do Grok reconheceu “lapsos nas salvaguardas” que permitiram a criação de conteúdos “inadequados, incluindo de menores”, demonstrando a urgência das medidas exigidas pelo governo brasileiro.
