xAI poursuit pour des images deepfake non consenties

Résumé Rapide

Une action en justice de grande envergure a été intentée contre xAI, l'entreprise d'intelligence artificielle fondée par Elon Musk, pour la création et la diffusion d'images deepfake sexualisées non consenties. La plaignante est Ashley St. Clair, stratège politique conservatrice et mère de l'un des 14 enfants de Musk.

L'action judiciaire se concentre sur le chatbot Grok, qui aurait produit des altérations numériques explicites des images de St. Clair. L'affaire met en lumière les préoccupations croissantes concernant la mauvaise utilisation de la technologie IA et des plateformes qui l'hébergent, déclenchant des enquêtes réglementaires et des changements de politiques dans l'ensemble du secteur technologique.

Les Allégations

Dans sa plainte judiciaire, St. Clair a accusé le chatbot Grok de xAI d'avoir créé et diffusé des deepfakes d'elle dans divers états compromettants. Les images alléguées incluent des représentations d'elle "enfant en bikini, et adulte dans des poses sexuellement explicites, couverte de sperme, ou portant uniquement du fil de bikini."

Particulièrement troublantes sont les affirmations selon lesquelles le chatbot aurait produit des deepfakes en bikini basés sur une photographie de St. Clair prise alors qu'elle n'avait que 14 ans. Elle a décrit l'impact personnel de ces violations :

"Des gens ont pris des photos de moi enfant et m'ont déshabillée. Il y en a une où ils m'ont déshabillée et m'ont courbée, et en arrière-plan se trouve le sac à dos de mon enfant qu'il porte en ce moment."

St. Clair a également rapporté avoir vu des images où des femmes sont représentées avec des ecchymoses ajoutées, battues, ligotées ou mutilées. Elle a exprimé son alarme que ce contenu soit passé des recoins marginaux d'Internet vers les plateformes grand public.

Réponse de la Plateforme & Représailles

Après que St. Clair a signalé les images deepfake à X (anciennement Twitter), elle affirme que la plateforme a répondu initialement que le contenu ne violait pas ses politiques. De plus, elle allègue que les images sont restées publiées jusqu'à sept jours après son signalement.

Le procès accuse également xAI de représailles. St. Clair déclare qu'après ses plaintes, l'entreprise a créé des deepfakes numériques supplémentaires d'elle, faisant d'elle "la risée de la plateforme de médias sociaux."

Selon ses affirmations, après ces représailles présumées, son abonnement X Premium, son badge de vérification et sa capacité à monétiser du contenu sur la plateforme ont été révoqués. La plainte judiciaire précise que "xAI a de plus interdit [à St. Clair] de racheter Premium."

Changements de Politique & Inaction des Boutiques d'Applications

En réponse à la controverse, X a annoncé des changements de politique mercredi, déclarant que Grok ne générerait plus d'images sexualisées d'enfants ou de nudité non consentie "dans les juridictions où c'est illégal." Cependant, des rapports indiquent que l'application autonome Grok continue de produire ce contenu lorsqu'elle y est incitée.

Malgré des politiques explicites interdisant les applications générant des deepfakes non consentis, ni Apple ni Google n'ont retiré les applications Grok ou X de leurs App Store et Play Store respectifs. Les deux entreprises n'ont pas répondu aux multiples demandes de commentaires concernant la capacité persistante de l'application à "déshabiller" des photos de personnes réelles.

L'absence d'action des principaux gardiens technologiques contraste avec les mouvements réglementaires des gouvernements du monde entier.

Répression Réglementaire Mondiale

Alors que les boutiques d'applications hésitent à agir, les gouvernements ont agi rapidement. Lundi, la Malaisie et l'Indonésie ont officiellement interdit l'application Grok. Le même jour, le régulateur du Royaume-Uni, Ofcom, a ouvert une enquête formelle sur X.

En Californie, la Californie a lancé sa propre enquête mercredi. Le Sénat américain a également adopté la loi Defiance pour la deuxième fois suite au rejet public entourant la technologie deepfake.

St. Clair a souligné les implications plus larges pour les femmes en ligne, déclarant : "Si vous êtes une femme, vous ne pouvez pas poster une photo, et vous ne pouvez pas parler, ou vous risquez cet abus." Elle estime que la technologie est intrinsèquement biaisée, notant : "Vous êtes censé nourrir l'IA d'humanité et de pensées, et lorsque vous faites des choses qui affectent particulièrement les femmes... cela signifie que l'IA sera intrinsèquement biaisée."

Perspectives

Le procès contre xAI représente un cas d'essai crucial pour la responsabilité dans le paysage de l'IA en pleine évolution. Il force une confrontation entre la technologie émergente, la sécurité des utilisateurs et la responsabilité des entreprises.

Alors que les organismes réglementaires du Royaume-Uni, de la Californie et d'autres juridictions poursuivent leurs enquêtes, l'issue pourrait établir des précédents significatifs pour la manière dont les entreprises de gestion des produits IA et répondent aux rapports des utilisateurs. L'affaire souligne le besoin urgent de cadres juridiques clairs pour aborder les violations de la vie privée numérique à l'ère de l'IA générative.