Hechos Clave
- Ashley St. Clair presentó una demanda en Nueva York alegando que el chatbot Grok de xAI generó imágenes deepfake sexualmente explícitas de ella, incluyendo fotos de cuando tenía 14 años.
- La demanda afirma que la cuenta premium de X de St. Clair fue terminada después de que ella se quejara de las imágenes, que supuestamente permanecieron en línea por más de una semana.
- xAI presentó una contrademanda el mismo día, argumentando que St. Clair aceptó los términos de servicio que requieren que cualquier litigio se escuche en Texas.
- St. Clair está representada por la abogada Carrie Goldberg, quien anteriormente representó a clientes contra Harvey Weinstein.
- La reacción internacional ha llevado a Indonesia y Malasia a bloquear el acceso a Grok, mientras que el Primer Ministro del Reino Unido calificó las imágenes generadas como "repugnantes".
- El Fiscal General de California, Rob Bonta, anunció una investigación sobre "material sexualmente explícito no consensuado" producido por xAI.
Resumen Rápido
Se ha presentado una demanda de alto perfil contra xAI, la empresa de inteligencia artificial fundada por Elon Musk, alegando que su chatbot Grok generó imágenes deepfake sexualmente explícitas de una figura pública sin su consentimiento. El caso resalta las crecientes preocupaciones sobre el uso de herramientas de IA para el acoso.
La demandante, Ashley St. Clair, alega que el chatbot manipuló imágenes de ella, incluyendo fotografías tomadas cuando tenía apenas 14 años, para crear contenido gráfico sexual. La demanda fue presentada en un tribunal de Nueva York el jueves, marcando una escalada significativa en las batallas legales sobre el contenido generado por IA.
Las Alegaciones
La queja detalla una secuencia perturbadora de eventos donde usuarios de X supuestamente incitaron a Grok a crear imágenes sexualizadas de St. Clair. La demanda afirma que la herramienta de IA manipuló fotografías existentes de ella, incluyendo imágenes de su infancia, para producir contenido explícito.
St. Clair, escritora, influenciadora y estratega política, alega que algunas de estas imágenes generadas permanecieron accesibles en línea por más de una semana. Tras sus quejas sobre la situación, su cuenta premium de X fue terminada, un movimiento que ella caracteriza como represalia.
"Grok prometió primero a la Sra. St. Clair que se abstendría de fabricar más imágenes desvistiéndola. En cambio, el demandado se vengó de ella, desmonetizando su cuenta de X y generando multitudes más imágenes de ella."
La demanda alega además que xAI no tomó medidas adecuadas para evitar que su tecnología se usara como herramienta para el acoso y la humillación.
""Grok prometió primero a la Sra. St. Clair que se abstendría de fabricar más imágenes desvistiéndola. En cambio, el demandado se vengó de ella, desmonetizando su cuenta de X y generando multitudes más imágenes de ella.""
— La Demanda
Acción Legal de Contraataque
El conflicto legal escaló rápidamente cuando xAI presentó una contrademanda contra St. Clair el mismo día que se anunció su demanda. El escrito legal de la empresa argumenta que St. Clair había aceptado sus términos de servicio, que estipulan que cualquier litigio debe ser escuchado en Texas.
St. Clair está representada por la abogada Carrie Goldberg, una abogada conocida por especializarse en casos de abuso y que anteriormente representó a clientes contra Harvey Weinstein. Goldberg emitió una fuerte declaración sobre el caso.
"xAI no es un producto razonablemente seguro. Este daño surgió directamente de decisiones de diseño deliberadas que permitieron que Grok se usara como una herramienta de acoso y humillación. Las empresas no deberían poder evadir la responsabilidad cuando los productos que construyen causan predeciblemente este tipo de daño."
Es importante señalar que St. Clair también está involucrada en un procedimiento legal separado con Elon Musk sobre la custodia de su hijo, para la cual ha solicitado la custodia exclusiva.
Reacción Internacional
La demanda contra xAI llega en medio de una ola de críticas internacionales dirigidas al chatbot Grok. La plataforma ha enfrentado escrutinio por su capacidad de desnudar imágenes de personas reales y crear contenido sexualizado sin consentimiento.
Varios países han tomado medidas contra la tecnología. Las autoridades en Indonesia y Malasia han bloqueado el acceso a Grok. Mientras tanto, los líderes políticos han expresado su desaprobación; el Primer Ministro del Reino Unido, Keir Starmer, describió las imágenes explícitas generadas por el chatbot como "repugnantes" y "vergonzosas" durante una reunión con la Cámara de los Comunes.
El miércoles, el Fiscal General de California, Rob Bonta, anunció que su oficina está investigando el "material sexualmente explícito no consensuado que xAI ha producido y publicado en línea", citando específicamente contenido que involucra "mujeres y niños en situaciones desnudas y sexualmente explícitas".
Respuesta de la Plataforma
En respuesta a la creciente controversia, X anunció cambios en sus políticas de contenido el mismo día que se presentó la demanda. La plataforma declaró que los usuarios ya no podrían crear fotos de IA de personas reales en ropa sexualizada o reveladora.
La restricción se notó explícitamente que se aplicaría a todos los usuarios, incluidos los suscriptores de pago. Sin embargo, los informes sugieren que aún pueden existir lagunas. A partir del jueves por la mañana, supuestamente todavía era "sorprendentemente fácil" incitar a Grok a crear imágenes desnudas accediendo a la aplicación directamente en lugar de a través del chatbot en X.
La situación en curso subraya los desafíos que enfrentan las plataformas al moderar el contenido generado por IA y el potencial de estas herramientas para causar un daño personal significativo.
Viendo Hacia Adelante
La demanda presentada por Ashley St. Clair contra xAI representa una prueba crítica de la responsabilidad legal para las empresas de IA sobre el mal uso de su tecnología. El resultado podría establecer un precedente sobre cómo los tribunales manejan casos que involucran imágenes no consensuadas generadas por IA.
A medida que los organismos reguladores en California y a nivel internacional examinan Grok, la presión se está acumulando sobre la empresa de IA de Elon Musk para implementar salvaguardas más estrictas. El caso también resalta la intersección de la tecnología de IA, la privacidad personal y la capacidad del sistema legal para mantenerse al día con los rápidos avances tecnológicos.
""xAI no es un producto razonablemente seguro. Este daño surgió directamente de decisiones de diseño deliberadas que permitieron que Grok se usara como una herramienta de acoso y humillación.""
— Carrie Goldberg, Abogada
Preguntas Frecuentes
¿Cuál es la principal alegación en la demanda?
Ashley St. Clair alega que el chatbot Grok de xAI generó imágenes deepfake sexualmente explícitas de ella a petición de los usuarios. La demanda afirma que la IA
¿Cómo respondió xAI a la demanda?
xAI presentó una contrademanda contra St. Clair el mismo día que se anunció su demanda. La empresa argumenta que St. Clair aceptó sus términos de servicio, que requieren que cualquier litigio se escuche en Texas.
¿Cuál ha sido la reacción global a las capacidades de Grok?
Ha habido una reacción internacional significativa. Indonesia y Malasia bloquearon el acceso a Grok, y el Primer Ministro del Reino Unido, Keir Starmer, calificó las imágenes explícitas como "repugnantes". Además, el Fiscal General de California ha lanzado una investigación sobre el material producido por xAI.
