Malásia e Indonésia bloqueiam Grok por preocupações com deepfakes

Resumo Rápido

A Malásia e a Indonésia tomaram medidas decisivas ao bloquear o acesso ao chatbot de IA Grok. Essas nações são as primeiras a implementar tal proibição, alegando que a ferramenta carece de salvaguardas suficientes para impedir a criação de deepfakes explícitos gerados por IA. Os bloqueios foram implementados durante o fim de semana, com a Indonésia agindo no sábado e a Malásia seguindo no domingo.

Simultaneamente, o regulador de mídia do Reino Unido, Ofcom, iniciou uma investigação formal sobre a plataforma X. Essa investigação, conduzida sob a Lei de Segurança Online, foca no manejo da plataforma de conteúdo ilegal, especificamente sobre a geração e disseminação de imagens íntimas não consentidas e material de abuso sexual infantil. O cenário regulatório está se fechando em torno de ferramentas de IA e plataformas de redes sociais à medida que os governos buscam abordar violações de segurança digital.

Nações do Sudeste Asiático Impõem Bloqueios

A Indonésia e a Malásia agiram rapidamente para restringir o acesso ao Grok após um escândalo envolvendo a geração de deepfakes explícitos. O bloqueio temporário da Indonésia foi decretado no sábado, enquanto a Malásia implementou seu bloqueio no domingo. Ambos os governos citaram a incapacidade do chatbot de impedir a criação e disseminação de deepfakes sexualmente explícitos de mulheres e crianças como a principal razão para a ação.

O Ministro de Assuntos de Comunicação e Digital da Indonésia, Meutya Hafid, emitiu uma forte declaração sobre a posição do governo. "O governo vê deepfakes sexuais não consentidos como uma grave violação dos direitos humanos, dignidade e segurança dos cidadãos no espaço digital", disse Hafid. Funcionários indonésios notaram que descobertas iniciais revelaram que o Grok carece de controles eficazes para impedir que os usuários criem deepfakes baseados em fotos de residentes indonésios.

O diretor geral de supervisão de espaço digital do país, Alexander Sabar, elaborou sobre as implicações legais e sociais. Sabar afirmou que gerar essas imagens viola os direitos de imagem e privacidade dos indivíduos quando as fotos são manipuladas sem consentimento. Ele acrescentou que tais violações podem levar a danos reputacionais, sociais e psicológicos significativos para as vítimas.

Na Malásia, a Comissão de Comunicações e Multimídia da Malásia citou o "uso repetido" do Grok para gerar deepfakes explícitos e não consentidos. O regulador destacou especificamente casos envolvendo mulheres e crianças. A comissão esclareceu que o bloqueio permanecerá em vigor até que a X Corp e sua empresa controladora, xAI, estabeleçam salvaguardas consideradas fortes o suficiente para prevenir novos abusos.

Regulador do Reino Unido Inicia Investigação Formal

O regulador de mídia do Reino Unido Ofcom abriu uma investigação formal sobre a X por possíveis violações da Lei de Segurança Online. A investigação centra-se se a plataforma cumpriu seus deveres legais de proteger os usuários do Reino Unido de conteúdo que é ilegal no país. Ofcom está examinando especificamente as medidas que a X tem em vigor para impedir que os usuários acessem conteúdo ilegal "prioritário".

O conteúdo ilegal prioritário inclui material de abuso sexual infantil (CSAM) e imagens íntimas não consentidas. O regulador está avaliando se a X remove esse conteúdo ilegal rapidamente após tomar conhecimento dele. Além disso, Ofcom está investigando se a X realizou uma avaliação de risco atualizada antes de fazer mudanças significativas na plataforma, um requisito sob as novas leis de segurança.

A investigação também se estende às medidas de proteção infantil. Ofcom está determinando se a X avaliou os riscos que sua plataforma representa para as crianças do Reino Unido e se utiliza "garantia de idade altamente eficaz" para proteger menores de ver pornografia. Um porta-voz da Ofcom expressou profunda preocupação com relatos de Grok sendo usado para criar e compartilhar imagens ilegais. "As plataformas devem proteger as pessoas no Reino Unido de conteúdo que é ilegal no Reino Unido, e não hesitaremos em investigar onde suspeitamos que as empresas estão falhando em seus deveres", afirmou o porta-voz.

Poderes Regulatórios e Impacto Global

Ofcom possui poderes de aplicação significativos sob a Lei de Segurança Online. Se o regulador determinar que uma empresa quebrou a lei, ele pode exigir que as plataformas tomem medidas específicas para entrar em conformidade ou remediar o dano causado. Ofcom contatou a X em 5 de janeiro e recebeu uma resposta até o prazo de 9 de janeiro, o que levou a uma avaliação acelerada das evidências.

As penalidades financeiras por não conformidade são substanciais. Ofcom pode impor multas de até £18 milhões (aproximadamente $24,3 milhões) ou 10 por cento da receita mundial "qualificada" da empresa, o que for maior. Além das multas, o regulador pode buscar ordens judiciais para impedir que provedores de pagamento ou anunciantes trabalhem com a plataforma, ou exigir que provedores de serviço de internet bloqueiem o acesso ao site dentro do Reino Unido.

O governo do Reino Unido sinalizou seu apoio total a qualquer ação que a Ofcom tomar contra a X. Relatos indicam que o Reino Unido discutiu uma resposta coordenada a deepfakes gerados por Grok com aliados. A escrutínio regulatório não se limita ao Reino Unido e ao Sudeste Asiático; autoridades na Índia e na União Europeia também estão investigando a X.

Em resposta à crescente controvérsia, o Grok anunciou recentemente que suas ferramentas de geração e edição de imagens seriam limitadas a assinantes pagantes. No entanto, na segunda-feira, relatos indicaram que usuários não pagantes ainda podiam gerar imagens através da aba Grok no site e aplicativo da X, sugerindo que a transição ou restrição não foi totalmente eficaz.

Perguntas Frequentes

Por que a Malásia e a Indonésia bloquearam o Grok?
Ambos os países bloquearam o Grok porque alegam que o chatbot de IA carece de salvaguardas suficientes para impedir a criação e disseminação de deepfakes explícitos e não consentidos, particularmente envolvendo mulheres e crianças. Eles citaram o uso repetido da ferramenta para gerar essas imagens prejudiciais.

O que a Ofcom está investigando sobre a X?
Ofcom está investigando se a X violou a Lei de Segurança Online ao falhar em proteger os usuários de conteúdo ilegal. A investigação foca no manejo da plataforma de material de abuso sexual infantil, imagens íntimas não consentidas e se ela conduziu avaliações de risco adequadas regarding a segurança do usuário.

Quais são as consequências potenciais para a X?
Se for considerada em violação da lei, a X enfrenta multas potenciais de até £18 milhões ou 10% de sua receita global. Ofcom também pode buscar ordens judiciais para bloquear a plataforma no Reino Unido ou cortar o processamento de pagamentos e receita de publicidade.