Malásia e Indonésia restringem acesso ao Grok, IA de Elon Musk, por conteúdo explícito
As autoridades da Malásia anunciaram neste domingo (11) o bloqueio do acesso ao Grok, a ferramenta de inteligência artificial (IA) associada à rede social X, de Elon Musk. A decisão se deu pela geração de “imagens obscenas, sexualmente explícitas e manipuladas” pelo chatbot.
A Comissão de Comunicações e Multimídia da Malásia (MCMC) afirmou que a restrição é imediata e não afetará o uso geral da plataforma X no país, que conta com cerca de cinco milhões de usuários. A medida segue um padrão semelhante ao adotado pela Indonésia no dia anterior.
Ambos os países citaram a criação de “imagens indecentes, extremamente ofensivas e não consensuais, incluindo conteúdo envolvendo mulheres e menores” como principal motivo para o bloqueio. Conforme informado pelas autoridades malaias, a empresa de Musk foi solicitada a implementar “salvaguardas técnicas e de moderação eficazes” para prevenir a geração de conteúdo ilegal por IA.
Respostas insuficientes e bloqueio temporário
De acordo com a MCMC, a resposta do X, que se limitou a iniciar mecanismos de denúncia pelos próprios usuários, foi considerada insuficiente. As autoridades argumentam que essa abordagem não ataca a raiz do problema e não garante a conformidade com a legislação local, levando à decisão de bloquear temporariamente o chatbot.
O funcionamento do Grok está sob escrutínio em diversos países, incluindo o Reino Unido. As suspensões na Malásia e Indonésia ocorreram após Elon Musk restringir os recursos de edição de imagens do Grok apenas para usuários pagantes na sexta-feira.
Reclamações de usuários e declaração de Musk
A restrição aos recursos de edição veio após dias de reclamações de usuários. O Grok, que é uma ferramenta gratuita, permitia o upload e edição de fotos, atendendo a pedidos para alterar imagens de pessoas, incluindo nudez sem consentimento. Isso gerou uma onda de denúncias e críticas à plataforma.
Em resposta às controvérsias, Elon Musk declarou no X que “qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que quem publicar conteúdo ilegal”. A declaração, no entanto, não impediu as ações regulatórias dos governos asiáticos.
Impacto e futuro da IA de Musk
O bloqueio do Grok na Malásia e Indonésia levanta questões sobre a responsabilidade das empresas de tecnologia na moderação de conteúdo gerado por inteligência artificial. A forma como o Grok manipula imagens e a falta de salvaguardas eficazes foram os pontos cruciais para as restrições.
O caso ressalta a crescente preocupação global com o potencial de uso indevido de ferramentas de IA para a criação e disseminação de conteúdo prejudicial e ilegal. A análise do funcionamento do Grok continua em outros países, indicando um debate em andamento sobre a regulamentação da inteligência artificial.
