Senado aprova unanimemente o ato DEFIANCE para combater deepfakes do Grok

Senado age unânimemente

O Senado dos Estados Unidos aprovou o Ato DEFIANCE (Disrupt Explicit Forged Images and Non-Consensual Edits) com consentimento unânime. Isso marca um passo legislativo significativo para lidar com a crescente crise de imagens não consensuais geradas por IA. O projeto de lei foi coautorizado pelo senador Dick Durbin (D-IL), que anunciou a aprovação.

O objetivo central do Ato DEFIANCE é fornecer recurso legal para indivíduos cujas semelhanças são usadas em deepfakes sexualmente explícitos sem sua permissão. Ele estabelece um remédio civil federal, permitindo que vítimas processem os indivíduos responsáveis pela criação ou hospedagem do conteúdo. Essa legislação chega em um momento crítico, quando a barreira para criar esse tipo de conteúdo virtualmente desapareceu.

O Fator Grok

Embora deepfakes tenham sido um problema persistente online, o problema escalou rapidamente com a integração do Grok na plataforma de mídia social X. O Grok, um assistente de IA desenvolvido pela xAI (empresa-mãe do X), permite que os usuários transformem as postagens de outras pessoas em prompts de geração de imagens com extrema facilidade.

Essa funcionalidade levou a abusos graves. No último mês, os usuários exploraram o sistema para criar imagens sexualmente explícitas de crianças simplesmente respondendo a uma postagem com @grok e um pedido. A acessibilidade dessa ferramenta transformou um processo técnico complexo em uma simples interação de mídia social.

As capacidades específicas do Grok que levantam alarme incluem:

• Transformar postagens de texto em prompts visuais instantaneamente
• Permitir respostas públicas para gerar imagens de qualquer pessoa
• Reduzir a habilidade técnica necessária para criar deepfakes
• Facilitar a produção em massa de conteúdo não consensual

Reação Regulatória Global

As consequências da integração do Grok não se limitaram à ação legislativa nos Estados Unidos. Reguladores internacionais agiram rapidamente para conter o dano potencial causado pela ferramenta de IA. A resposta destaca a natureza global da crise de deepfakes.

No Reino Unido, o Ofcom, regulador de mídia da nação, abriu uma investigação sobre o X. A investigação foca em possíveis violações da Lei de Segurança Online. Enquanto isso, no Sudeste Asiático, o chatbot enfrentou medidas ainda mais rígidas. Tanto a Malásia quanto a Indonésia bloquearam totalmente o Grok, impedindo o acesso ao serviço em seus territórios.

O chatbot também foi totalmente bloqueado na Malásia e na Indonésia.

Essas ações internacionais enfatizam a urgência sentida por governos em todo o mundo em regular ferramentas de IA que carecem de salvaguardas suficientes contra abusos.

Mecanismo Legal

O Ato DEFIANCE opera atacando os incentivos financeiros e as responsabilidades associadas à criação de deepfakes. É importante notar que o projeto de lei não impede o Grok ou outras ferramentas de IA de gerar deepfakes não consensuais tecnicamente. Em vez disso, foca nas consequências e nas consequências legais para os perpetradores.

Ao permitir a ação civil, o projeto de lei torna a criação ou hospedagem desse conteúdo potencialmente muito caro. Se uma ação judicial for bem-sucedida, os criadores e hospedeiros enfrentam penalidades financeiras significativas. Essa abordagem espelha esforços legislativos anteriores, mas muda o foco.

Comparação da Legislação de Deepfake:

• Ato DEFIANCE: Foca na ação civil contra criadores e hospedeiros.
• Ato Take It Down: Focou em empresas que hospedam conteúdo não consensual.

O Ato Take It Down, aprovado no ano passado com apoio bipartidário, atacou as plataformas que hospedam o conteúdo. O Ato DEFIANCE, por outro lado, capacita os indivíduos explorados a buscar diretamente as pessoas que criaram o conteúdo.

Histórico Legislativo

Esta é a segunda vez que o Senado aprova o Ato DEFIANCE. Uma versão anterior foi aprovada com sucesso pelo Senado em 2024, mas acabou parando na Câmara dos Representantes. A reintrodução e a aprovação unânime sugerem uma determinação renovada de transformar o projeto de lei em lei.

Os legisladores são esperançosos de que a nova versão não enfrentará a mesma resistência que sua antecessora. O catalisador para esse impulso renovado é o aumento específico e alarmante no abuso de deepfakes ligado ao Grok. A cronologia dos eventos recentes convenceu os legisladores de que a necessidade dessa proteção é urgente.

Fatores-chave influenciando o atual impulso legislativo:

• Consentimento unânime do Senado
• Abusos específicos ligados ao Grok
• Pressão regulatória internacional
• Falha anterior na Câmara em 2024

Olhando para Frente

A aprovação do Ato DEFIANCE pelo Senado prepara o terreno para uma batalha crítica na Câmara. O projeto de lei representa uma mudança significativa na forma como o sistema jurídico dos EUA aborda o abuso gerado por IA, movendo-se da responsabilidade da plataforma para a responsabilidade individual. O apoio unânime no Senado indica uma forte vontade política, mas o destino do projeto de lei na Câmara permanece o principal obstáculo.

À medida que ferramentas de IA como o Grok se tornam mais integradas ao uso diário de mídia social, a linha entre expressão criativa e assédio malicioso continua a se diluir. O Ato DEFIANCE tenta redesenhar essa linha na areia, estabelecendo consequências legais claras para aqueles que usam a IA contra os outros. Os próximos meses determinarão se esse esforço legislativo pode finalmente fornecer a proteção que as vítimas precisam desesperadamente.