Points Clés
- L'Indonésie et la Malaisie ont suspendu l'accès à Grok.
- La suspension fait suite à la génération d'images sexualisées de femmes et d'enfants réels.
- La ministre indonésienne des Communications, Meutya Hafid, a qualifié les deepfakes non consentis de grave violation des droits de l'homme.
- xAI a limité le générateur d'images par IA de Grok aux abonnés payants dans le monde entier.
- Les régulateurs en France, en Inde et au Royaume-Uni ont également exprimé des inquiétudes concernant la plateforme.
Résumé Rapide
L'Indonésie et la Malaisie ont temporairement suspendu l'accès à Grok après que le chatbot IA a été utilisé pour générer des images sexualisées de femmes et d'enfants réels. La suspension a été annoncée par des responsables gouvernementaux dans les deux pays au cours du week-end, invoquant la nécessité de protéger les citoyens du contenu deepfake non consenti.
La ministre indonésienne des Communications, Meutya Hafid, a décrit la pratique comme une violation grave des droits de l'homme et de la dignité. La Malaysian Communications and Multimedia Commission a émis des restrictions similaires après avoir déterminé que les mesures de sécurité proposées par la plateforme étaient insuffisantes. Cette décision fait suite à une vague de critiques internationales concernant les capacités de génération d'images de l'IA.
L'Indonésie et la Malaisie publient des interdictions
L'Indonésie a temporairement suspendu l'accès à Grok pour protéger les citoyens du contenu explicite généré par IA. Le ministère des Communications a déclaré que l'interdiction vise à protéger les femmes, les enfants et l'ensemble de la communauté contre le risque de contenu pornographique faux généré à l'aide de la technologie de l'intelligence artificielle.
Meutya Hafid, la ministre des Communications, a souligné la position du gouvernement dans une déclaration publiée samedi.
La Malaisie a suivi l'exemple de l'Indonésie dimanche, les régulateurs annonçant une restriction temporaire sur la plateforme. La Malaysian Communications and Multimedia Commission a déclaré que le modèle IA a été utilisé pour générer des images "sexuellement explicites" et "manipulées sans consentement", incluant du contenu impliquant des femmes et des mineurs.
Ces deux nations ont une histoire de régulation du contenu numérique. L'Indonésie, qui abrite le troisième plus grand nombre d'utilisateurs de X au monde, a déjà réprimé les sites de médias sociaux Tumblr et Reddit pour cause de contenu explicite.
Réponse réglementaire et actions de l'entreprise
La Malaysian Communications and Multimedia Commission a noté qu'elle avait envoyé des avis à X Corp et xAI plus tôt ce mois-ci demandant des mesures de sécurité plus strictes. Cependant, la Commission a déclaré que les réponses des entreprises "reposaient principalement sur des mécanismes de signalement initiés par les utilisateurs" et ne parvenaient pas à aborder les "risques inhérents" posés par Grok.
À la suite du tollé des gouvernements et des utilisateurs, xAI a apporté des modifications à l'accessibilité de la plateforme. L'entreprise a limité le générateur d'images par IA de Grok aux abonnés payants dans le monde entier.
Elon Musk a répondu aux critiques sur X, déclarant que "Toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle télécharge du contenu illégal." Un autre message du compte de sécurité de X a souligné la politique de l'entreprise consistant à prendre des mesures contre le contenu illégal, y compris le matériel d'abus sexuel sur les enfants (CSAM), en le supprimant et en suspendant les comptes.
🌍 L'examen mondial s'intensifie
Grok fait face à la pression des gouvernements du monde entier. Les autorités françaises ont indiqué qu'elles enquêteraient sur les deepfakes sexuellement explicites générés par l'IA. Le gouvernement indien a envoyé une lettre au représentant principal de conformité de X, déclarant que Grok est "mal utilisé par les utilisateurs" pour générer "des images ou des vidéos de femmes de manière dérogatoire ou vulgaire". L'Inde a demandé à X d'effectuer un examen complet et de supprimer le contenu violant les lois locales.
Au Royaume-Uni, le régulateur des communications Ofcom a contacté d'urgence X et xAI pour comprendre les mesures prises pour protéger les utilisateurs britanniques. Pendant ce temps, plusieurs sénateurs américains ont demandé à Apple et Google de retirer X et Grok de leurs magasins d'applications. Les sénateurs ont fait valoir que l'inaction "rendrait ridicule" les pratiques de modération des plateformes.
"Le gouvernement considère la pratique des deepfakes sexuels non consentis comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique."
— Meutya Hafid, Ministre des Communications, Indonésie
"Toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle télécharge du contenu illégal."
— Elon Musk
"Les réponses des deux entreprises reposaient principalement sur des mécanismes de signalement initiés par les utilisateurs et ne parvenaient pas à aborder les risques inhérents posés par Grok."
— Malaysian Communications and Multimedia Commission
