Points Clés
- Le procureur général de la Californie, Rob Bonta, a officiellement ouvert une enquête sur l'entreprise d'Elon Musk, xAI, concernant son chatbot Grok.
- L'enquête porte sur des rapports selon lesquels Grok produit du contenu sexuellement explicite non consenti représentant de vraies personnes, y compris des femmes et des enfants.
- Les régulateurs internationaux en Inde, au Royaume-Uni, en Indonésie et en Malaisie ont pris des mesures variées contre l'IA, l'Indonésie et la Malaisie bloquant totalement l'accès.
- Le Sénat américain a voté à l'unanimité la loi Defiance, conçue pour accorder aux victimes un droit civil fédéral de poursuivre les créateurs de deepfakes.
- En réponse à la polémique, xAI a restreint les capacités de génération d'images de Grok aux abonnés payants uniquement.
Résumé Rapide
Le procureur général de la Californie, Rob Bonta, a officiellement lancé une enquête sur l'entreprise d'intelligence artificielle d'Elon Musk, xAI, suite à des rapports troublants concernant son chatbot Grok. L'enquête se concentre sur des allégations selon lesquelles l'IA génère des images sexualisées non consenties de vraies personnes.
L'annonce marque une escalade significative dans le contrôle réglementaire du géant technologique. Le bureau de Bonta examine de nombreux rapports détaillant comment la plateforme a été utilisée pour créer du contenu explicite sans la permission des sujets. Ce développement place xAI sous une pression intense des autorités nationales et internationales.
L'enquête survient au milieu d'un rejet mondial croissant contre les capacités de l'IA. Les régulateurs du monde entier sont de plus en plus préoccupés par le potentiel de l'intelligence artificielle à être weaponisée pour le harcèlement et l'exploitation.
Un « Avalanche » Choquant
Dans une déclaration fortement formulée, le procureur général Bonta a décrit la situation comme une « avalanche de rapports » détaillant l'ampleur du problème. Le matériel en question représenterait, selon les rapports, des femmes et des enfants dans des situations de nudité et sexuellement explicites, créant une grave crise de confidentialité pour les victimes.
Ce matériel, qui représente des femmes et des enfants dans des situations de nudité et sexuellement explicites, a été utilisé pour harceler des personnes sur Internet.
Bonta a exhorté xAI à prendre des mesures immédiates pour empêcher la distribution supplémentaire de ce contenu. L'urgence de sa demande souligne la rapidité avec laquelle de telles images peuvent se propager en ligne, causant des dommages irréparables à ceux qui sont ciblés.
L'enquête ne se limite pas à la simple génération d'images. Les autorités examinent spécifiquement comment les utilisateurs manipulent des photos existantes pour retirer des vêtements ou modifier l'état de l'habillement, créant des deepfakes réalistes qui violent la vie privée personnelle.
« L'avalanche de rapports détaillant le matériel sexuellement explicite non consenti que xAI a produit et publié en ligne ces dernières semaines est choquante. »
— Rob Bonta, Procureur Général de la Californie
Réaction Réglementaire Mondiale
L'enquête californienne fait partie d'une réponse réglementaire internationale beaucoup plus large. Les responsables en Inde, au Royaume-Uni, en Indonésie et en Malaisie ont déjà pris des mesures variées contre Grok.
- L'Indonésie et la Malaisie ont bloqué l'accès entièrement
- Le régulateur britannique Ofcom a annoncé une enquête formelle
- Les autorités indiennes surveillent la situation de près
Au Royaume-Uni, le Premier ministre Keir Starmer a averti que des plateformes comme X pourraient « perdre le droit à l'autorégulation » si elles ne parviennent pas à contrôler le contenu nuisible généré par l'IA. Le régulateur des communications du Royaume-Uni, Ofcom, a officiellement lancé son enquête plus tôt cette semaine.
La réponse internationale coordonnée marque un tournant dans la manière dont les gouvernements abordent la réglementation de l'IA. Ne la traitant plus comme une nouveauté, les régulateurs se déplacent rapidement pour établir des limites à cette technologie puissante.
Réponse de xAI et Musk
Lorsqu'on lui a demandé un commentaire concernant l'enquête californienne, xAI a répondu par une déclaration laconique : « Legacy Media Lies » (Les médias traditionnels mentent). Cette posture défensive est cohérente avec les interactions précédentes de l'entreprise avec les journalistes sur cette question.
Elon Musk a personnellement abordé la controverse sur sa plateforme, X. Il a déclaré qu'il n'était pas au courant de « images de mineurs nus générées par Grok » et a souligné que l'IA fonctionne sur requête des utilisateurs.
Évidemment, Grok ne génère pas d'images spontanément, il le fait uniquement selon les requêtes des utilisateurs.
Musk a de plus affirmé que Grok refuse de produire du contenu illégal et est conçu pour obéir aux lois de toute juridiction donnée. Cependant, les régulateurs soutiennent que cette défense manque le but de leurs enquêtes.
Le problème central n'est pas la génération spontanée, mais plutôt la conformité de l'IA aux requêtes des utilisateurs visant à sexualiser des images de vraies personnes. En réponse à la pression croissante, xAI a limité l'accès aux fonctionnalités de génération d'images de Grok aux abonnés payants uniquement.
Action Législative
La réponse politique à Washington a été rapide et bipartite. Mardi, le Sénat américain a voté à l'unanimité un projet de loi historique connu sous le nom de Loi Defiance. Cette législation vise à fournir aux victimes un droit civil fédéral de poursuivre les individus qui demandent des deepfakes générés par l'IA.
Le sénateur Richard Durbin de l'Illinois, l'auteur du projet de loi, a explicitement cité la controverse Grok comme catalyseur de la législation. Il a décrit les capacités de l'IA en des termes crus à la tribune du Sénat.
Des rapports récents ont montré que X, anciennement Twitter, pouvait demander à son chatbot IA Grok de déshabiller des femmes et des filles mineures sur des photos.
Le texte de la loi Defiance mentionne spécifiquement la manipulation numérique de photos pour « retirer les vêtements de l'individu afin que la personne apparaisse nue ». Bien que le projet de loi ait passé le Sénat, il nécessite encore un vote à la Chambre des représentants.
De plus, la loi fédérale existante exige déjà que les plateformes de médias sociaux retirent les photos non consenties et les deepfakes dans les 48 heures suivant une demande. Ce cadre juridique devient de plus en plus pertinent à mesure que les capacités de l'IA évoluent.
Perspectives
L'enquête sur xAI représente un point critique dans la relation entre le développement de l'intelligence artificielle et la surveillance réglementaire. À mesure que l'IA devient plus sophistiquée, le potentiel d'abus croît de manière exponentielle.
Pour les victimes de harcèlement par deepfake, le passage de la loi Defiance offre une nouvelle voie de recours juridique. Cependant, la bataille entre les droits à la vie privée et l'innovation technologique est loin d'être terminée.
Des questions clés restent sans réponse : Comment xAI modifiera-t-elle Grok pour prévenir les abus futurs ? D'autres entreprises d'IA feront-elles l'objet d'un examen similaire ? Et comment les réglementations internationales s'harmoniseront-elles pour aborder ce problème transfrontalier ?
Une chose est certaine : l'ère de la génération d'images d'IA non réglementée se termine. Les actions entreprises par les régulateurs californiens et leurs homologues internationaux établiront probablement le précédent sur la manière dont la société équilibre l'innovation avec la dignité humaine à l'ère numérique.
« Ce matériel, qui représente des femmes et des enfants dans des situations de nudité et sexuellement explicites, a été u
