Europa abre investigação contra X por imagens sexualizadas geradas pela IA Grok
A Comissão Europeia anunciou formalmente a abertura de uma investigação contra a rede social X, de propriedade de Elon Musk. O foco principal é a geração de imagens sexualizadas, incluindo conteúdo que pode ser considerado abuso sexual infantil, criadas pela inteligência artificial da plataforma, o Grok. A investigação visa determinar se o X está cumprindo suas obrigações sob as leis digitais europeias.
A avaliação da Comissão Europeia se concentrará em verificar se o X analisou adequadamente e mitigou os riscos associados à implementação das funcionalidades do Grok na União Europeia. Isso inclui a potencial distribuição de conteúdo ilegal, como imagens sexualmente explícitas manipuladas, que podem configurar material de abuso sexual infantil.
“Estes riscos parecem ter se concretizado”, declarou a Comissão em comunicado. A investigação examinará se o X cumpriu suas obrigações sob a Lei de Serviços Digitais para avaliar e mitigar riscos sistêmicos, além de ter apresentado um relatório de riscos ad hoc sobre as funcionalidades do Grok antes de seu lançamento.
Grok e a polêmica das imagens explícitas
A polêmica em torno da geração de imagens de crianças e mulheres nuas pelo Grok nas últimas semanas já havia levado o governo francês a processar o X judicialmente. Mesmo antes do início formal da investigação, a Comissão Europeia já havia ordenado que o X conservasse toda a sua documentação interna relativa ao Grok até 2026, como parte de uma investigação em andamento sobre a política da plataforma contra conteúdos ilegais.
Fontes indicaram que o X tomou algumas medidas para frear a disseminação desse tipo de imagem após a polêmica e a pressão da Comissão Europeia. No entanto, a investigação recém-aberta vai além das imagens sexualizadas, abordando um problema mais generalizado na arquitetura da rede social e de sua IA.
Infrações à Lei de Serviços Digitais sob escrutínio
Se as alegações forem comprovadas, o X poderá ter infringido vários artigos da Lei de Serviços Digitais. Esta lei exige que as plataformas digitais avaliem e mitiguem riscos sistêmicos que possam afetar os cidadãos europeus. A investigação, embora sem um cronograma específico, tramitará de maneira prioritária em Bruxelas devido aos riscos associados ao Grok.
Esta não é a primeira vez que o X enfrenta sanções na Europa. Em dezembro do ano passado, a plataforma foi multada em 120 milhões de euros por descumprir obrigações de transparência, conforme a mesma lei. As infrações incluíram o “design enganoso” do selo de verificação azul, falta de transparência no repositório publicitário e dificuldades de acesso a dados públicos para pesquisadores.
Investigação sobre sistemas de recomendação e IA
Paralelamente, a Comissão Europeia prorrogou sua investigação iniciada em 2023 sobre o cumprimento das obrigações de gestão de riscos pelo X em seus sistemas de recomendação de conteúdo. Essa análise incluirá o impacto da transição da plataforma para um sistema baseado na inteligência artificial do Grok, reforçando o escrutínio sobre as práticas da rede social.
