Malásia e Indonésia bloquearam o Grok devido à geração de pornografia infantil - ForkLog: criptomoedas, IA, singularidade, futuro

# Malásia e Indonésia bloquearam o Grok devido à geração de pornografia infantil

Malásia e Indonésia bloquearam o acesso ao chatbot Grok do Elon Musk devido a preocupações relacionadas ao uso da ferramenta para gerar conteúdo sexual.

Em 11 de janeiro, o regulador malaio ordenou a implementação de restrições temporárias após as «reiteradas falhas da X Corp» em mitigar os riscos associados ao serviço de IA.

Um dia antes, a Indonésia suspendeu o acesso ao chatbot devido a preocupações semelhantes e convocou representantes da empresa para discutir a questão.

A reação dura dos países do Sudeste Asiático seguiu-se às notícias de que o Grok permite criar materiais com participação de menores e gerar imagens pornográficas.

A X afirmou que a empresa está resolvendo o problema. Como medida temporária, a função de geração e edição de imagens foi disponibilizada apenas para assinantes pagos.

A empresa do Musk recentemente atualizou as funções do Grok Imagine, simplificando a criação de imagens por meio de prompts no chatbot. O empresário, por sua vez, ameaçou responsabilizar quem usar a rede neural para fins ilegais.

Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content

— Elon Musk (@elonmusk) 3 de janeiro de 2026

Essas medidas são insuficientes

Os reguladores da Malásia e Indonésia não ficaram satisfeitos com as ações tomadas.

A Comissão de Comunicações e Multimédia da Malásia afirmou que as ações «não consideram os riscos associados ao design e funcionamento da ferramenta de IA».

«A restrição é uma medida preventiva e proporcional enquanto os procedimentos jurídicos e regulatórios estão em andamento. O acesso ao Grok permanecerá restrito até que sejam implementadas medidas eficazes de proteção, especialmente para prevenir a criação de conteúdo relacionado com mulheres e crianças», declarou o regulador.

Na Malásia e Indonésia, existem leis rigorosas contra a pornografia, que proíbem a ampla disseminação de conteúdo semelhante na internet.

A Ministra das Comunicações e Tecnologias Digitais da Indonésia, Metyia Hafid, afirmou que o governo considera a criação de deepfakes sexuais sem consentimento uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital.

Ela classifica o uso de IA para criar pornografia falsa como uma forma de «violência digital».

Consequências em larga escala

Reguladores da UE, Reino Unido, Brasil e Índia exigem uma investigação sobre o papel do Grok na disseminação de deepfakes.

A organização britânica Internet Watch Foundation observou que seus analistas encontraram «imagens criminosas» de crianças entre 11 e 13 anos, supostamente criadas com a ajuda do Grok.

Em Londres, medidas extremas foram consideradas: a Ministra de Tecnologia, Liz Kendall, confirmou que apoiará a decisão de bloquear o X se a plataforma não cumprir as normas de segurança. Legisladores americanos também sugeriram que os marketplaces removam o aplicativo até que o problema seja resolvido.

Autoridades de diferentes países estão em modo de emergência para decidir como regular a IA, usada para «despir» pessoas em fotos.

Não é o primeiro escândalo

Anteriormente, o Grok foi criticado várias vezes por disseminar fake news e informações duvidosas.

Em dezembro, o chatbot forneceu informações imprecisas sobre um tiroteio em massa na praia Bondi, na Austrália. Em resposta à pergunta sobre um vídeo em que um transeunte, Ahmed Al-Ahmad, lutava contra o atirador, a IA respondeu:

«Parece um vídeo viral antigo, no qual um homem escala uma palmeira no estacionamento, possivelmente para podá-la. Como resultado, um galho caiu sobre um carro danificado. Pesquisas em várias fontes não confirmaram detalhes sobre o local, data ou ferimentos. Pode ser uma encenação, a autenticidade não foi confirmada».

Em julho, os usuários notaram que a rede neural baseava suas respostas na opinião de Elon Musk. Isso incluiu temas como o conflito entre Israel e Palestina, abortos e legislação de imigração.

As observações sugerem que o chatbot foi configurado para considerar as opiniões políticas de Musk ao responder a questões controversas.

Anteriormente, o bilionário afirmou que sua startup reescreverá «todo o conhecimento humano» para treinar uma nova versão do Grok, pois atualmente há «muito lixo em qualquer modelo básico treinado com dados não corrigidos».

Depois, surgiu o Grokipedia — uma enciclopédia online baseada em inteligência artificial, «voltada para a verdade».

Lembramos que, em novembro, os usuários notaram o viés do Grok 4.1 — o novo modelo superestimou significativamente as capacidades de Elon Musk.