- La Malaisie et l'Indonésie ont pris une décision radicale en bloquant l'accès au chatbot IA Grok.
- Ces nations sont les premières à mettre en place une telle interdiction, affirmant que l'outil ne dispose pas de garde-fous suffisants pour empêcher la création de faux profonds explicites générés par l'IA.
- Les blocages ont été mis en œuvre ce week-end, l'Indonésie agissant samedi et la Malaisie suivant le dimanche.
- Parallèlement, le régulateur média du Royaume-Uni, Ofcom, a lancé une enquête formelle sur la plateforme X.
- L'Indonésie et la Malaisie sont les premiers pays à bloquer Grok.
- Les blocages ont été mis en œuvre respectivement samedi et dimanche.
- Ofcom a ouvert une enquête formelle sur X dans le cadre de la loi sur la sécurité en ligne.
Points Clés
- L'Indonésie et la Malaisie sont les premiers pays à bloquer Grok.
- Les blocages ont été mis en œuvre respectivement samedi et dimanche.
- Ofcom a ouvert une enquête formelle sur X dans le cadre de la loi sur la sécurité en ligne.
- Ofcom peut imposer des amendes allant jusqu'à 18 millions de livres sterling.
- Les régulateurs en Inde et dans l'UE enquêtent également sur X.
Résumé Rapide
La Malaisie et l'Indonésie ont pris une décision radicale en bloquant l'accès au chatbot IA Grok. Ces nations sont les premières à mettre en place une telle interdiction, affirmant que l'outil ne dispose pas de garde-fous suffisants pour empêcher la création de faux profonds explicites générés par l'IA. Les blocages ont été mis en œuvre ce week-end, l'Indonésie agissant samedi et la Malaisie suivant le dimanche.
Parallèlement, le régulateur média du Royaume-Uni, Ofcom, a lancé une enquête formelle sur la plateforme X. Cette enquête, menée dans le cadre de la loi sur la sécurité en ligne, se concentre sur la gestion par la plateforme des contenus illégaux, notamment la génération et la diffusion d'images intimes non consenties et de matériel d'abus sexuel sur mineurs. Le paysage réglementaire se durcit autour des outils IA et des plateformes de médias sociaux alors que les gouvernements s'attaquent aux violations de la sécurité numérique.
Les Nations d'Asie du Sud-Est Imposent des Blocages
L'Indonésie et la Malaisie ont agi rapidement pour restreindre l'accès à Grok à la suite d'un scandale impliquant la génération de faux profonds explicites. Le blocage temporaire de l'Indonésie a été promulgué samedi, tandis que la Malaisie a mis en œuvre son blocage dimanche. Les deux gouvernements ont cité l'incapacité du chatbot à empêcher la création et la diffusion de faux profonds sexuellement explicites de femmes et d'enfants comme raison principale de cette action.
La ministre indonésienne des Affaires de la Communication et du Numérique, Meutya Hafid Le directeur général de la supervision de l'espace numérique du pays, Alexander Sabar, a élaboré sur les implications juridiques et sociales. M. Sabar a déclaré que la génération de ces images viole les droits à l'image et à la vie privée des individus lorsque les photos sont manipulées sans consentement. Il a ajouté que de telles violations peuvent entraîner des dommages importants à la réputation, à la vie sociale et psychologique des victimes. En Malaisie, la Commission des Communications et du Multimédia de Malaisie a cité le "détournement répété" de Grok pour générer des faux profonds explicites et non consentis. Le régulateur a spécifiquement mis en évidence des cas impliquant des femmes et des enfants. La commission a précisé que le blocage restera en place jusqu'à ce que X Corp et sa société mère, xAI, mettent en place des garde-fous jugés suffisamment solides pour prévenir toute utilisation abusive supplémentaire.
Le Régulateur Britannique Lance une Enquête Formelle
Le régulateur média britannique Ofcom a ouvert une enquête formelle sur X concernant des violations potentielles de la loi sur la sécurité en ligne. L'enquête porte sur le fait de savoir si la plateforme s'est conformée à ses obligations légales de protéger les utilisateurs britanniques des contenus illégaux dans le pays. Ofcom examine spécifiquement les mesures que X a mises en place pour empêcher les utilisateurs d'accéder aux contenus illégaux "prioritaires".
Les contenus illégaux prioritaires incluent le matériel d'abus sexuel sur mineurs (CSAM) et les images intimes non consenties. Le régulateur évalue si X supprime rapidement ce type de contenu illégal après en avoir eu connaissance. De plus, Ofcom enquête pour savoir si X a effectué une évaluation des risques mise à jour avant d'apporter des modifications importantes à la plateforme, une exigence selon les nouvelles lois de sécurité.
L'enquête s'étend également aux mesures de protection des enfants. Ofcom détermine si X a évalué les risques que sa plateforme pose aux enfants britanniques et s'il utilise une "assurance d'âge hautement efficace" pour protéger les mineurs de la vision de pornographie. Un porte-parole d'Ofcom a exprimé sa profonde préoccupation face aux rapports selon lesquels Grok serait utilisé pour créer et partager des images illégales. "Les plateformes doivent protéger les personnes au Royaume-Uni des contenus illégaux au Royaume-Uni, et nous n'hésiterons pas à enquêter si nous soupçonnons que les entreprises manquent à leurs devoirs", a déclaré le porte-parole.
Pouvoirs Réglementaires et Impact Mondial
Ofcom dispose de pouvoirs d'application importants dans le cadre de la loi sur la sécurité en ligne. Si le régulateur détermine qu'une entreprise a enfreint la loi, il peut exiger que les plateformes prennent des mesures spécifiques pour se mettre en conformité ou remédier au dommage causé. Ofcom a contacté X le 5 janvier et a reçu une réponse avant la date limite du 9 janvier, ce qui a incité une évaluation accélérée des preuves.
Les sanctions financières pour non-conformité sont substantielles. Ofcom peut imposer des amendes allant jusqu'à 18 millions de livres sterling (environ 24,3 millions de dollars) ou 10 pour cent des revenus mondiaux "éligibles" de l'entreprise, selon le chiffre le plus élevé. Au-delà des amendes, le régulateur peut demander des ordonnances judiciaires pour empêcher les fournisseurs de paiement ou les annonceurs de travailler avec la plateforme, ou exiger que les fournisseurs de services Internet bloquent l'accès au site au Royaume-Uni.
Le gouvernement britannique a signalé son plein soutien à toute action qu'Ofcom entreprendrait contre X. Les rapports indiquent que le Royaume-Uni a discuté d'une réponse coordonnée aux faux profonds générés par Grok avec ses alliés. L'examen réglementaire n'est pas limité au Royaume-Uni et à l'Asie du Sud-Est ; les autorités en Inde et dans l'Union européenne enquêtent également sur X.
En réponse à la controverse grandissante, Grok a récemment annoncé que ses outils de génération et d'édition d'images seraient limités aux abonnés payants. Cependant, lundi, les rapports indiquaient que les utilisateurs non payants pouvaient toujours générer des images via l'onglet Grok sur le site Web et l'application X, suggérant que la transition ou la restriction n'était pas totalement effective.
Foire Aux Questions
Pourquoi la Malaisie et l'Indonésie ont-elles bloqué Grok ?
Ces deux pays ont bloqué Grok car ils affirment que le chatbot IA ne dispose pas de garde-fous suffisants pour empêcher la création et la diffusion de faux profonds explicites et non consentis, impliquant particulièrement des femmes et des enfants. Ils ont cité le détournement répété de l'outil pour générer ces images nuisibles.
Que fait Ofcom dans son enquête sur X ?
Ofcom enquête pour savoir si X a violé la loi sur la sécurité en ligne en ne protégeant pas les utilisateurs contre les contenus illégaux. L'enquête se concentre sur la gestion par la plateforme du matériel d'abus sexuel sur mineurs, des images intimes non consenties, et sur le fait de savoir si elle a mené des évaluations de risques appropriées concernant la sécurité des utilisateurs.
Quelles sont les conséquences potentielles pour X ?
Si X est reconnu coupable d'avoir enfreint la loi, il risque des amendes pouvant atteindre 18 millions de livres sterling ou 10 % de ses revenus mondiaux. Ofcom peut également demander des ordonnances judiciaires pour bloquer la plateforme au Royaume-Uni ou couper le traitement des paiements et les revenus publicitaires.
"Le gouvernement considère les faux profonds sexuels non consentis comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique."
— Meutya Hafid, ministre indonésienne des Affaires de la Communication et du Numérique
"Les rapports sur l'utilisation de Grok pour cré
Frequently Asked Questions
Pourquoi la Malaisie et l'Indonésie ont-elles bloqué Grok ?
Ces deux pays ont bloqué Grok car ils affirment que le chatbot IA ne dispose pas de garde-fous suffisants pour empêcher la création et la diffusion de faux profonds explicites et non consentis, impliquant particulièrement des femmes et des enfants.
Que fait Ofcom dans son enquête sur X ?
Ofcom enquête pour savoir si X a violé la loi sur la sécurité en ligne en ne protégeant pas les utilisateurs contre les contenus illégaux. L'enquête se concentre sur la gestion par la plateforme du matériel d'abus sexuel sur mineurs et des images intimes non consenties.
Quelles sont les sanctions encourues par X ?
X risque des amendes pouvant atteindre 18 millions de livres sterling, des blocages potentiels par les FAI, et des restrictions sur le traitement des paiements s'il est reconnu coupable d'une infraction.