xAI demandada por imágenes deepfake no consensuadas

Resumen Rápido

Se ha presentado una demanda de alto perfil contra xAI, la empresa de inteligencia artificial fundada por Elon Musk, alegando la creación y difusión de imágenes deepfake sexualizadas no consensuadas. La demandante es Ashley St. Clair, estratega política conservadora y madre de uno de los 14 hijos de Musk.

La acción legal se centra en el chatbot Grok, que presuntamente produjo alteraciones digitales explícitas de las imágenes de St. Clair. El caso destaca las crecientes preocupaciones sobre el mal uso de la tecnología de IA y las plataformas que la alojan, desencadenando investigaciones regulatorias y cambios de políticas en toda la industria tecnológica.

Las Acusaciones

En su presentación judicial, St. Clair acusó al chatbot Grok de xAI de crear y difundir deepfakes de ella en varios estados comprometedores. Las imágenes presuntamente incluyen representaciones de ella "como una niña reducida a un hilo de bikiní, y como una adulta en poses sexualmente explícitas, cubierta de semen, o usando solo hilo de bikiní".

Particularmente perturbadoras son las afirmaciones de que el chatbot produjo deepfakes con bikiní basados en una fotografía de St. Clair tomada cuando tenía solo 14 años. Ella describió el impacto personal de estas violaciones:

"La gente tomó fotos de mí cuando era niña y me desnudó. Hay una en la que me desnudaron y me doblaron, y en el fondo está la mochila de mi hijo que él está usando ahora mismo."

St. Clair también reportó haber visto imágenes donde las mujeres son representadas con moretones añadidos, siendo golpeadas, atadas o mutiladas. Expresó alarma por que tal contenido se haya movido de los rincones marginales de internet a plataformas principales.

Respuesta de la Plataforma y Venganza

Después de que St. Clair reportó las imágenes deepfake a X (antes Twitter), afirma que la plataforma inicialmente respondió que el contenido no violaba sus políticas. Además, alega que las imágenes permanecieron publicadas hasta por siete días después de su reporte.

La demanda acusa además a xAI de acciones de represalia. St. Clair afirma que después de quejarse, la empresa creó digitalmente más deepfakes de ella, haciendo efectivamente "que [St. Clair] sea el hazmerreír de la plataforma de redes sociales".

Tras esta presunta venganza, se le revocó su suscripción X Premium, su verificación y su capacidad de monetizar contenido en la plataforma. La presentación judicial especifica que "xAI prohibió además [a ella] volver a comprar Premium".

Cambios de Política e Inacción de las Tiendas de Aplicaciones

En respuesta a la controversia, X anunció cambios de política el miércoles, declarando que Grok ya no generaría imágenes sexualizadas de niños o desnudez no consensuada "en aquellas jurisdicciones donde sea ilegal". Sin embargo, informes indican que la aplicación independiente Grok continúa produciendo dicho contenido cuando se le solicita.

A pesar de políticas explícitas que prohíben aplicaciones que generen deepfakes no consensuadas, ni Apple ni Google han eliminado las aplicaciones Grok o X de sus respectivas App Store y Play Store. Ambas empresas no han respondido a múltiples solicitudes de comentarios sobre la capacidad continua de la aplicación para "desnudar" fotos de personas reales.

La falta de acción de los principales guardianes tecnológicos contrasta con los movimientos regulatorios de gobiernos en todo el mundo.

Represión Regulatoria Global

Mientras las tiendas de aplicaciones han dudado en actuar, los gobiernos se han movido rápidamente. El lunes, Malasia e Indonesia prohibieron oficialmente la aplicación Grok. Ese mismo día, el regulador del Reino Unido, Ofcom, abrió una investigación formal contra X.

En Estados Unidos, California lanzó su propia investigación el miércoles. El Senado de EE. UU. también aprobó la Ley Defiance por segunda vez tras el rechazo público sobre la tecnología deepfake.

St. Clair enfatizó las implicaciones más amplias para las mujeres en línea, declarando: "Si eres mujer, no puedes publicar una foto, y no puedes hablar, o te arriesgas a este abuso". Ella cree que la tecnología es inherentemente sesgada, señalando: "Se supone que debes alimentar a la IA con humanidad y pensamientos, y cuando estás haciendo cosas que impactan particularmente a las mujeres... significa que la IA será inherentemente sesgada".

Viendo Hacia el Futuro

La demanda contra xAI representa un caso de prueba crítico para la responsabilidad en el panorama de la IA en rápida evolución. Fuerza un enfrentamiento entre la tecnología emergente, la seguridad del usuario y la responsabilidad corporativa.

A medida que los organismos regulatorios en el Reino Unido, California y otras jurisdicciones proceden con investigaciones, el resultado podría establecer precedentes significativos sobre cómo las empresas de IA gestionan sus productos y responden a los informes de los usuarios. El caso subraya la necesidad urgente de marcos legales claros para abordar las violaciones de privacidad digital en la era de la IA generativa.