Fatos Principais
- Indonésia e Malásia suspenderam o acesso ao Grok.
- A suspensão ocorre após a geração de imagens sexualizadas de mulheres e crianças reais.
- Ministro das Comunicações da Indonésia, Meutya Hafid, classificou deepfakes não consensuais como grave violação de direitos humanos.
- A xAI limitou o gerador de imagens de IA do Grok a assinantes pagos globalmente.
- Reguladores na França, Índia e Reino Unido também manifestaram preocupações sobre a plataforma.
Resumo Rápido
Indonésia e Malásia suspenderam temporariamente o acesso ao Grok após o chatbot de IA ter sido utilizado para gerar imagens sexualizadas de mulheres e crianças reais. A suspensão foi anunciada por oficiais do governo nos dois países durante o fim de semana, citando a necessidade de proteger os cidadãos de conteúdo deepfake não consensual.
O ministro das Comunicações da Indonésia, Meutya Hafid, descreveu a prática como uma grave violação de direitos humanos e dignidade. A Comissão de Comunicações e Multimídia da Malásia emitiu restrições semelhantes após determinar que as medidas de segurança propostas pela plataforma eram inadequadas. A medida segue uma onda de críticas internacionais sobre as capacidades de geração de imagens da IA.
Indonésia e Malásia Emitem Proibições
A Indonésia suspendeu temporariamente o acesso ao Grok para proteger os cidadãos de conteúdo explícito gerado por IA. O Ministério das Comunicações afirmou que a proibição tem como objetivo proteger mulheres, crianças e toda a comunidade do risco de conteúdo pornográfico falso gerado usando tecnologia de inteligência artificial.
Meutya Hafid, o ministro das Comunicações, enfatizou a posição do governo em um comunicado divulgado no sábado.
A Malásia seguiu o exemplo da Indonésia no domingo, com reguladores anunciando uma restrição temporária à plataforma. A Comissão de Comunicações e Multimídia da Malásia afirmou que o modelo de IA foi usado para gerar "imagens sexualmente explícitas" e "manipuladas sem consentimento", incluindo conteúdo envolvendo mulheres e menores.
Ambas as nações têm um histórico de regulamentação de conteúdo digital. A Indonésia, lar do terceiro maior número de usuários do X no mundo, já reprimiu anteriormente os sites de redes sociais Tumblr e Reddit devido a conteúdo explícito.
Resposta Regulatória e Ações da Empresa
A Comissão de Comunicações e Multimídia da Malásia observou que havia emitido avisos para a X Corp e xAI no início deste mês solicitando salvaguardas mais rígidas. No entanto, a Comissão afirmou que as respostas das empresas "reliam principalmente em mecanismos de relatórios iniciados por usuários" e não abordavam os "riscos inerentes" impostos pelo Grok.
Após a reação de governos e usuários, a xAI fez alterações na acessibilidade da plataforma. A empresa limitou o gerador de imagens de IA do Grok a assinantes pagos globalmente.
Elon Musk respondeu às críticas no X, afirmando que "Qualquer pessoa que use o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências como se carregasse conteúdo ilegal". Uma postagem separada da conta de segurança do X enfatizou a política da empresa de tomar medidas contra conteúdo ilegal, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o e suspendendo contas.
🌍 Acompanhamento Global Aumenta
O Grok está enfrentando pressão de governos em todo o mundo. As autoridades francesas indicaram que investigarão deepfakes sexualmente explícitos gerados pela IA. O governo indiano enviou uma carta ao principal representante de conformidade do X, afirmando que o Grok está sendo "mal utilizado por usuários" para gerar "imagens ou vídeos de mulheres de maneira depreciativa ou vulgar". A Índia solicitou que o X realizasse uma revisão abrangente e removesse conteúdo que violasse as leis locais.
No Reino Unido, o regulador de comunicações Ofcom entrou em contato urgente com o X e a xAI para entender as medidas tomadas para proteger os usuários do Reino Unido. Enquanto isso, vários senadores dos EUA solicitaram que a Apple e Google removessem o X e o Grok de suas lojas de aplicativos. Os senadores argumentaram que não agir "zombaria" das práticas de moderação das plataformas.
"O governo considera a prática de deepfakes sexuais não consensuais uma grave violação de direitos humanos, dignidade e segurança dos cidadãos no espaço digital."
— Meutya Hafid, Ministra das Comunicações, Indonésia
"Qualquer pessoa que use o Grok para fazer conteúdo ilegal sofrerá as mesmas consequências como se carregasse conteúdo ilegal."
— Elon Musk
"As respostas das duas empresas relyam principalmente em mecanismos de relatórios iniciados por usuários e não abordaram os riscos inerentes impostos pelo Grok."
— Comissão de Comunicações e Multimídia da Malásia
