Grok da X: IA Generativa Cria Fakes de Mulheres Nuas e Desafia Leis Brasileiras Atualmente
O uso da inteligência artificial (IA) generativa para criar imagens sexualizadas de mulheres, muitas vezes sem consentimento, tem gerado grande preocupação e um debate acalorado no Brasil. A ferramenta Grok, integrada à plataforma X (antigo Twitter) de Elon Musk, tornou-se o centro dessa discussão ao permitir a criação de centenas de milhares de imagens falsas de mulheres em trajes íntimos ou simulando nudez a partir de fotos originais.
Esse avanço tecnológico levanta questões legais complexas sobre a violação de direitos, a definição de crime e a responsabilidade das empresas de tecnologia. Especialistas apontam um vácuo na legislação brasileira que ainda não acompanha a velocidade da evolução da IA, deixando muitas vítimas desprotegidas diante de novas formas de violência digital.
A facilidade com que essas imagens são criadas e disseminadas, saindo de ambientes restritos da internet para atingir um público amplo, exige uma análise aprofundada sobre como o ordenamento jurídico brasileiro pode e deve responder a esses novos desafios. Conforme informações divulgadas pela Gazeta do Povo, o caso Grok expõe a necessidade urgente de regulamentação e adaptação das leis.
O Enquadramento Legal e a Lacuna na Legislação Brasileira
A principal dificuldade em lidar com o uso indevido da IA generativa, como no caso do Grok, reside no enquadramento legal. O advogado e especialista em direito digital Walter Capanema explica que a legislação penal brasileira é, em regra, restrita e não abrange todas as novas possibilidades tecnológicas. Situações específicas de nudez ou contexto sexual direto são criminalizadas, mas a manipulação de imagens por IA sem consentimento pode escapar dessa definição.
“Como regra geral, não seria crime. O nosso Código Penal criminaliza situações muito específicas, como colocar alguém em contexto de nudez total ou sexual de forma direta. Isso deixa a maioria das mulheres desprotegida”, afirma Capanema, destacando a insuficiência da lei atual diante da tecnologia.
Violência Psicológica e a Resposta Civil para Vítimas
Uma exceção recente é o aumento da pena para o crime de violência psicológica contra a mulher quando há uso de inteligência artificial. No entanto, para que isso se aplique, é necessário um contexto específico, como o uso por um ex-parceiro com a intenção de causar sofrimento psicológico, exigindo vínculo e intenção clara. Fora desses casos, a via mais provável para as vítimas é a esfera cível.
“A mulher pode acionar quem causou o dano pela utilização indevida da imagem com finalidade de sexualização”, explica Capanema. Contudo, identificar os responsáveis e garantir a remoção completa do conteúdo da internet representa um desafio significativo, pois, uma vez online, a disseminação é difícil de controlar.
Responsabilidade Compartilhada e a Necessidade de “Guarda-Corpos” na IA
O advogado Luiz Augusto D’Urso, especialista em crimes cibernéticos, reforça que a manipulação de imagens reais sem autorização gera consequências jurídicas relevantes, incluindo o dever de indenizar por danos morais. A responsabilidade, segundo ele, é compartilhada entre quem solicita a manipulação, quem publica e a própria plataforma que permite a divulgação.
D’Urso defende que o consentimento é o ponto crucial, e a IA deveria bloquear automaticamente pedidos de manipulação de imagens sem autorização expressa do indivíduo. “Fora isso, a IA deveria bloquear automaticamente esse tipo de pedido”, argumenta.
Walter Capanema adiciona que o caso Grok evidencia a falta de salvaguardas técnicas e éticas nas ferramentas de IA. “Ferramentas de IA precisam de ‘guarda-corpos’, limites éticos claros. Outras plataformas, como ChatGPT e Gemini, bloqueiam esse tipo de pedido. No Grok, ficou evidente que essas travas não existiam”, observa.
A Urgência de um Marco Regulatório para a IA no Brasil
A ausência de uma legislação específica para regular a inteligência artificial no Brasil cria um cenário de insegurança jurídica. Embora não haja um impedimento legal claro para que plataformas como o Grok permitam manipulações de imagem, isso não isenta as empresas de responsabilidade, uma vez que o direito à imagem é garantido pela Constituição.
Enquanto o marco regulatório da IA tramita no Congresso, casos como o do Grok demonstram um vácuo legal e técnico. “É uma tecnologia revolucionária, mas ainda estamos aprendendo a lidar com seus efeitos. O direito corre atrás do prejuízo”, conclui Capanema.
Orientações para Vítimas e Evolução das Ferramentas de IA
Para as vítimas de manipulação de imagens por IA, a orientação é clara: preservar provas, registrar boletim de ocorrência, solicitar a remoção do conteúdo e buscar auxílio jurídico para acionar a Justiça. A disseminação de imagens sexualizadas falsas, que antes restrita a ambientes da deep web, agora se torna acessível em plataformas populares, ampliando o alcance e o impacto das violações.
Apesar da repercussão negativa, o Grok permitiu a manipulação de imagens para criar versões de biquíni até o dia 9 de janeiro, recusando apenas pedidos de nudez total. Isso sugere a existência de filtros, ainda que insuficientes, para impedir a sexualização e manipulação não consentida de imagens reais.
