L'outil d'images Grok AI passe en premium après le scandale des deepfakes

Résumé Rapide

xAI a limité son outil de génération d'images Grok AI aux abonnés payants sur la plateforme X suite à un tollé mondial. La restriction a été mise en place après que l'outil a été utilisé pour créer des images sexualisées non consenties de vraies personnes, y compris des mineurs. Les gouvernements et régulateurs du monde entier ont fait pression sur l'entreprise pour qu'elle s'attaque au mauvais usage de la technologie. Bien que l'application autonome de Grok reste accessible pour l'édition d'images, l'intégration aux réseaux sociaux est désormais payante. Le Premier ministre britannique Keir Starmer a condamné les images générées comme étant « honteuses » et « illégales ». Elon Musk a répondu en menaçant de conséquences les utilisateurs créant du contenu illégal, et le régulateur britannique Ofcom a contacté xAI concernant le respect des obligations légales pour protéger les utilisateurs.

Le Changement de Politique

xAI a officiellement restreint l'accès à ses fonctionnalités de génération et d'édition d'images sur la plateforme X. L'outil est désormais disponible exclusivement pour les abonnés payants. Lorsque les utilisateurs mentionnent Grok avec des demandes d'édition d'images sur X, le système répond : « La génération et l'édition d'images sont actuellement limitées aux abonnés payants. »

Ce changement signifie que la majorité des utilisateurs sur la plateforme de réseaux sociaux ne peuvent plus créer d'images en utilisant Grok. Ceux qui accèdent à la fonctionnalité auront leur nom et leurs informations de paiement enregistrés. Cependant, les utilisateurs qui ne sont pas abonnés payants à X peuvent continuer à utiliser Grok pour éditer des images sur son application et son site web autonomes, bien que l'intégration aux réseaux sociaux soit désormais payante.

Raison des Restrictions

La décision de restreindre l'accès fait suite à des critiques généralisées concernant l'utilisation de l'outil pour créer des images sexualisées non consenties. Fin décembre, les utilisateurs ont commencé à mentionner Grok sur X et à lui demander de déshabiller numériquement des personnes sur des photos. L'outil AI a honoré ces demandes, mettant les sujets en maillots de bain ou en sous-vêtements et orientant leurs corps vers des positions sexualisées. Certaines des personnes représentées sur les images étaient des mineurs.

À mesure que ces images générées par AI inondaient le site, les gouvernements et régulateurs au Royaume-Uni, dans l'UE, en Italie, en Inde et ailleurs ont publiquement menacé ou pris des mesures contre X et xAI. Les critiques se sont concentrées sur le fait que l'outil permettait la création de deepfakes sexualisés de vraies personnes, principalement des femmes, en modifiant numériquement les images pour retirer leurs vêtements et les placer dans des positions sexualisées.

Réponse Politique et Réglementaire

Les figures politiques ont été vocales dans leur critique de la mauvaise utilisation de l'outil. Un porte-parole du Premier ministre britannique, Keir Starmer, a déclaré aux journalistes que la mesure « transforme simplement une fonctionnalité AI qui permet la création d'images illégales en un service premium ». Starmer lui-même a qualifié les deepfakes sexualisés de Grok de « honteux » et « illégaux » lors d'une interview radio.

Les régulateurs ont également pris des mesures. Lundi, le régulateur des communications du Royaume-Uni, Ofcom, a confirmé avoir « pris contact en urgence avec X et xAI pour comprendre les mesures qu'ils ont prises pour se conformer à leurs obligations légales de protéger les utilisateurs au Royaume-Uni ». Aux États-Unis, la loi Take It Down Act protège contre les deepfakes non consentis, bien que son domaine d'application dépende de l'âge et des parties du corps montrées. Certains États ont également adopté des lois plus strictes concernant la propagation des deepfakes.

Réponse d'Elon Musk et de xAI

Elon Musk, le PDG de xAI, a fait face à des menaces et des condamnations de la part de gouvernements du monde entier suite au mauvais usage de l'outil. Le 3 janvier, Musk a répondu au tollé pour la première fois. Il a écrit dans un post sur X que, « Toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle télécharge du contenu illégal. »

La page officielle de X a également dirigé les utilisateurs vers sa page de politique, qui indique que la plateforme a « une tolérance zéro pour toute forme d'exploitation sexuelle des enfants ». La politique précise que X supprime « certains médias dépeignant des abus physiques sur enfants ». Lorsqu'on lui a demandé de commenter le changement de politique, xAI a envoyé une réponse automatique par email qui n'a pas abordé la question.