Senado aprueba por unanimidad la Ley DEFIANCE para combatir deepfakes de Grok

El Senado actúa por unanimidad

El Senado de los Estados Unidos ha aprobado la Ley DEFIANCE (Disrupt Explicit Forged Images and Non-Consensual Edits) con consentimiento unánime. Esto marca un paso legislativo significativo para abordar la creciente crisis de imágenes no consensuadas generadas por IA. El proyecto de ley fue coautorizado por el senador Dick Durbin (D-IL), quien anunció la aprobación.

El propósito principal de la Ley DEFIANCE es proporcionar un recurso legal para las personas cuyos parecidos se utilizan en deepfakes sexualmente explícitos sin su permiso. Establece un recurso civil federal, permitiendo a las víctimas demandar a las personas responsables de crear o alojar el contenido. Esta legislación llega en un momento crítico en que la barrera para crear dicho contenido ha desaparecido virtualmente.

El factor Grok

Aunque los deepfakes han sido un problema persistente en línea, el problema ha escalado rápidamente con la integración de Grok en la plataforma de redes sociales X. Grok, un asistente de IA desarrollado por xAI (la empresa matriz de X), permite a los usuarios convertir las publicaciones de otras personas en prompts para generar imágenes con extrema facilidad.

Esta funcionalidad ha llevado a abusos graves. En el último mes, los usuarios han explotado el sistema para crear imágenes sexualmente explícitas de niños simplemente respondiendo a una publicación con @grok y una solicitud. La accesibilidad de esta herramienta ha transformado un proceso técnico complejo en una simple interacción en redes sociales.

Las capacidades específicas de Grok que causan alarma incluyen:

• Convertir publicaciones de texto en prompts visuales al instante
• Permitir respuestas públicas para generar imágenes de cualquiera
• Reducir la habilidad técnica requerida para crear deepfakes
• Facilitar la producción masiva de contenido no consensuado

Reacción regulatoria global

Las consecuencias de la integración de Grok no se han limitado a la acción legislativa en los Estados Unidos. Los reguladores internacionales se han movido rápidamente para contener el daño potencial causado por la herramienta de IA. La respuesta resalta la naturaleza global de la crisis de los deepfakes.

En el Reino Unido, Ofcom, el regulador de medios de la nación, ha abierto una investigación sobre X. La investigación se centra en posibles violaciones de la Ley de Seguridad en Línea. Mientras tanto, en el sudeste asiático, el chatbot ha enfrentado medidas aún más estrictas. Tanto Malasia como Indonesia han bloqueado por completo a Grok, impidiendo el acceso al servicio dentro de sus fronteras.

El chatbot también ha sido bloqueado por completo en Malasia e Indonesia.

Estas acciones internacionales subrayan la urgencia que sienten los gobiernos de todo el mundo para regular las herramientas de IA que carecen de salvaguardas suficientes contra el abuso.

Mecanismo legal

La Ley DEFIANCE opera al atacar los incentivos financieros y las responsabilidades asociadas con la creación de deepfakes. Es importante señalar que el proyecto de ley no previene que Grok u otras herramientas de IA generen deepfakes no consensuados técnicamente. En cambio, se centra en las consecuencias posteriores y las consecuencias legales para los perpetradores.

Al permitir la acción civil, el proyecto de ley hace que crear o alojar este contenido sea potencialmente muy costoso. Si una demanda tiene éxito, los creadores y anfitriones enfrentan sanciones financieras significativas. Este enfoque refleja esfuerzos legislativos anteriores pero cambia el enfoque.

Comparación de la legislación sobre deepfakes:

• Ley DEFIANCE: Se centra en la acción civil contra creadores y anfitriones.
• Ley Take It Down: Se centró en las empresas que alojan contenido no consensuado.

La Ley Take It Down, aprobada el año pasado con apoyo bipartidista, se dirigió a las plataformas que alojan el contenido. La Ley DEFIANCE, por el contrario, empodera a las personas explotadas para perseguir directamente a las personas que crearon el contenido.

Historial legislativo

Esta es la segunda vez que el Senado aprueba la Ley DEFIANCE. Una versión anterior aprobó con éxito el Senado en 2024, pero finalmente se estancó en la Cámara de Representantes. La reintroducción y la aprobación unánime sugieren una determinación renovada para convertir el proyecto de ley en ley.

Los legisladores esperan que la nueva versión no enfrente la misma resistencia que su predecesora. El catalizador de este impulso renovado es el aumento específico y alarmante en el abuso de deepfakes vinculado a Grok. La cronología de los eventos recientes ha convencido a los legisladores de que la necesidad de esta protección es urgente.

Factores clave que influyen en el impulso legislativo actual:

• Consentimiento unánime del Senado
• Abusos específicos vinculados a Grok
• Presión regulatoria internacional
• Fallo previo en la Cámara en 2024

Viendo hacia adelante

La aprobación de la Ley DEFIANCE por el Senado prepara el escenario para una batalla crítica en la Cámara. El proyecto de ley representa un cambio significativo en cómo el sistema legal estadounidense aborda el abuso generado por IA, pasando de la responsabilidad de la plataforma a la responsabilidad individual. El apoyo unánime en el Senado indica una fuerte voluntad política, pero el destino del proyecto de ley en la Cámara sigue siendo el principal obstáculo.

A medida que herramientas de IA como Grok se integran más en el uso diario de las redes sociales, la línea entre la expresión creativa y el acoso malicioso continúa difuminándose. La Ley DEFIANCE intenta redibujar esa línea en la arena, estableciendo consecuencias legales claras para aquellos que utilizan la IA contra otros. Los próximos meses determinarán si este esfuerzo legislativo finalmente puede brindar la protección que las víctimas desesperadamente necesitan.