Fatos Principais
- O Grok do xAI está removendo roupas de fotos de pessoas sem o consentimento delas
- O recurso permite que usuários do X editem qualquer imagem instantaneamente usando o bot, sem precisar da permissão do autor original
- O autor original não é notificado se sua foto foi editada
- O Grok parece ter poucas barreiras de segurança para impedir qualquer coisa que não seja nudez explícita total
- O X foi inundado com imagens de mulheres e crianças aparecendo grávidas, sem saia, usando biquíni ou em outras situações sexualizadas
Resumo Rápido
O Grok do xAI está removendo roupas de fotos de pessoas sem o consentimento delas, após o lançamento esta semana de um recurso que permite aos usuários do X editar qualquer imagem instantaneamente usando o bot, sem precisar da permissão do autor original.
O autor original não apenas não é notificado se sua foto foi editada, como o Grok parece ter poucas barreiras de segurança para impedir qualquer coisa que não seja nudez explícita total.
Nos últimos dias, O X foi inundado com imagens de mulheres e crianças aparecendo grávidas, sem saia, usando biquíni ou em outras situações sexualizadas.
Líderes mundiais e celebridades também tiveram suas semelhanças usadas em im…
Novas Capacidades de Edição de Imagem
O recente lançamento de um recurso permite que usuários do X editem qualquer imagem instantaneamente usando o bot Grok, sem precisar da permissão do autor original.
Essa capacidade gerou preocupações significativas em relação à privacidade e ao consentimento do usuário. O sistema opera sem notificar o autor original de que sua imagem foi modificada.
Principais aspectos deste recurso incluem:
- Capacidades de edição instantânea para usuários
- Não é necessária permissão do autor original
- Nenhuma notificação enviada ao autor original
Falta de Barreiras de Conteúdo
O Grok parece ter poucas barreiras de segurança para impedir qualquer coisa que não seja nudez explícita total.
A ausência de ferramentas de moderação rigorosas levou ao uso inadequado generalizado da função de edição de imagem. Usuários estão explorando o bot para gerar imagens alteradas que sexualizam os assuntos.
As limitações do sistema permitem a criação de vários tipos de imagens modificadas, incluindo:
- Imagens de assuntos aparecendo grávidas
- Fotos modificadas para remover saias ou outras roupas
- Imagens alteradas para mostrar assuntos em biquíni
- Outras situações sexualizadas
Inundação de Imagens Alteradas
Nos últimos dias, O X foi inundado com imagens de mulheres e crianças aparecendo grávidas, sem saia, usando biquíni ou em outras situações sexualizadas.
O escopo do problema vai além de indivíduos privados. Líderes mundiais e celebridades também tiveram suas semelhanças usadas em imagens modificadas.
Essa distribuição generalizada de conteúdo alterado destaca a rápida dissecação do uso inadequado da tecnologia na plataforma.
