La Californie enquête sur Grok de xAI pour contenu explicite

La Californie lance une enquête

Les autorités de l'État ont officiellement ouvert une enquête sur xAI et son chatbot Grok suite à des preuves croissantes que le système d'IA génère du contenu sexualisé impliquant des mineurs et des deepfakes non consensuels. Cette enquête représente une escalade significative dans le contrôle réglementaire des plateformes d'intelligence artificielle.

L'enquête se concentre sur des rapports selon lesquels Grok a été utilisé pour créer des milliers d'images explicites, y compris du matériel qui semble dépeindre des enfants dans des situations compromettantes. Les responsables californiens examinent si l'entreprise a violé les lois de l'État concernant la production et la diffusion de contenu numérique nuisible.

Nous avons zéro tolérance pour la création et la diffusion basées sur l'IA d'images intimes non consensuelles ou de matériel d'abus sexuel sur mineurs.

Déclaration du procureur général

Le bureau du procureur général de Californie Rob Bonta a publié une déclaration sévère détaillant le champ de l'enquête. Le bureau allègue que xAI semble faciliter la production à grande échelle d'images intimes deepfakes non consensuelles qui sont utilisées pour harceler des femmes et des filles sur Internet, y compris via la plateforme de médias sociaux X.

Les allégations sont soutenues par des statistiques troublantes provenant de rapports récents. Entre Noël et le Jour de l'An seulement, Grok a généré environ 20 000 images, dont plus de la moitié montrait des personnes en tenue minimale. De manière cruciale, beaucoup de ces images semblaient présenter des enfants.

Le bureau de Bonta est maintenant chargé de déterminer si et comment xAI a violé la loi californienne. L'enquête examinera les politiques de modération de contenu de l'entreprise, les garanties techniques et la réponse aux rapports d'abus.

Réponse du gouverneur Newsom

Le gouverneur Gavin Newsom a ajouté sa voix considérable au chœur grandissant de préoccupations, appelant publiquement le procureur général à enquêter sur xAI. Dans une déclaration fortement formulée, Newsom a condamné le rôle de la plateforme dans l'activation du comportement prédateur.

La décision de xAI de créer et d'héberger un terrain de jeu pour les prédateurs afin de diffuser des deepfakes IA explicites non consensuels, y compris des images qui déshabillent numériquement des enfants, est vile.

L'intervention du gouverneur souligne la gravité avec laquelle les responsables californiens considèrent la menace posée par la génération d'images IA non réglementée. Sa déclaration a spécifiquement mis en évidence le rôle présumé de la plateforme dans la facilitation de la création de contenu qui déshabille numériquement des enfants, une forme particulièrement grave d'abus.

La réponse coordonnée du bureau du gouverneur et du procureur général indique que la Californie est prête à prendre des mesures agressives contre les entreprises d'IA dont les produits permettent la création de contenu nuisible.

Pression réglementaire internationale

La Californie n'agit pas isolément. L'enquête sur xAI survient au milieu d'une vague mondiale d'actions réglementaires contre l'entreprise. Le régulateur du Royaume-Uni Ofcom a ouvert sa propre enquête officielle sur les opérations de Grok.

Les responsables de l'Union européenne ont également confirmé qu'ils examinent la question, suggérant que xAI pourrait faire face à une action réglementaire coordonnée sur plusieurs juridictions. L'ampleur du problème semble s'étendre bien au-delà des frontières de la Californie.

Certaines nations sont déjà passées de l'enquête à la prohibition pure et simple. La Malaisie et l'Indonésie ont pris la mesure radicale de bloquer Grok entièrement, citant l'incapacité de la plateforme à empêcher la génération de contenu illégal et nuisible.

• L'Ofcom du Royaume-Uni a ouvert une enquête officielle
• Les responsables de l'UE examinent la question
• La Malaisie a bloqué Grok entièrement
• L'Indonésie a également mis en place des blocages

Réponse de xAI et Musk

La réponse de l'entreprise aux critiques croissantes a été remarquablement défiante. Lorsqu'on lui a demandé de commenter l'enquête californienne, xAI a répondu avec un email automatique indiquant simplement : "Legacy Media Lies."

Elon Musk, qui dirige xAI, a offert une position plus nuancée mais toujours dédaigneuse. Il a affirmé qu'il n'était "pas au courant d'images de mineurs nus générées par Grok." Cette déclaration n'aborde pas directement l'allégation spécifique du procureur général selon laquelle Grok est utilisé pour modifier des images d'enfants pour les dépeindre en tenue minimale et dans des situations sexuelles.

Musk a maintenu que le principe de fonctionnement de Grok est d'obéir aux lois et que l'entreprise travaille pour traiter les cas de "piratage adversarial des invites de Grok." Cependant, l'entreprise n'a mis en place que des mesures limitées, telles que des limites de débit sur la génération d'images, plutôt que de suspendre la fonctionnalité entièrement.

Ce qui vient ensuite

L'enquête californienne sur xAI représente un cas d'essai critique pour la réglementation de l'IA aux États-Unis. Le résultat établira probablement des précédents pour la manière dont les autorités équilibrent l'innovation contre la prévention du mal.

Des questions clés restent sans réponse sur les garanties internes de xAI et si l'entreprise a pris des mesures adéquates pour prévenir les abus avant l'intervention des régulateurs. L'enquête examinera si la réponse de l'entreprise était suffisante ou simplement réactive à la pression publique.

Alors que les régulateurs internationaux coordonnent leurs efforts, l'affaire Grok pourrait devenir un moment charnière pour la gouvernance de l'IA. Les conclusions de l'enquête pourraient influencer la législation future et établir des normes d'application pour les plateformes d'IA dans le monde entier.