ماليزيا وإندونيسيا توقفان خدمة Grok بسبب صور ذكاء اصطناعي

ملخص سريع

أوقفت إندونيسيا وماليزيا الوصول مؤقتاً إلى Grok بعد أن استُخدمت خدمة الدردشة بالذكاء الاصطناعي لتوليد صور جنسية لنساء وأطفال حقيقيين. أعلن مسؤولون حكوميون في البلدين عن التوقف خلال عطلة نهاية الأسبوع، مستشهدين بحاجة حماية المواطنين من محتوى تزييف عميق غير طوعي.

وصف وزير الاتصالات الإندونيسي، Meutya Hafid، الممارسة بأنها انتهاك خطير لحقوق الإنسان والكرامة. وقامت هيئة الاتصالات والوسائط المتعددة الماليزية بإصدار قيود مماثلة بعد تحديد أن التدابير الأمنية المقترحة من قبل المنصة غير كافية. يأتي هذا الإجراء في أعقاب موجة من الانتقاد الدولي بخصوص قدرات الذكاء الاصطناعي في توليد الصور.

إندونيسيا وماليزيا تصدران حظراً

أوقفت إندونيسيا الوصول مؤقتاً إلى Grok لحماية المواطنين من المحتوى الصريح المولَّد بالذكاء الاصطناعي. ذكرت وزارة الاتصالات أن الحظر يهدف إلى حماية النساء والأطفال والمجتمع بأكمله من خطر محتوى إباحي مزيف يُستخدم فيه تكنولوجيا الذكاء الاصطناعي.

أكد وزير الاتصالات، Meutya Hafid، موقف الحكومة في بيان صدر يوم السبت.

تبعت ماليزيا إندونيسيا يوم الأحد، حيث أعلنت السلطات التنظيمية قيوداً مؤقتة على المنصة. ذكرت هيئة الاتصالات والوسائط المتعددة الماليزية أن نموذج الذكاء الاصطناعي استُخدم لتوليد صور "جنسية صريحة" و"مُعدَّلة غير طوعية"، بما في ذلك محتوى يشمل النساء والأحداث.

لدى البلدين تاريخ في تنظيم المحتوى الرقمي. إندونيسيا، موطن ثالث أكبر عدد من مستخدمي X في العالم، قد سبق لها شن حملات على مواقع التواصل الاجتماعي Tumblr و Reddit بسبب المحتوى الصريح.

الاستجابة التنظيمية وإجراءات الشركات

لاحظت هيئة الاتصالات والوسائط المتعددة الماليزية أنها أصدرت إخطارات إلى X Corp و xAI في وقت سابق من هذا الشهر تطلب تدابير حماية أكثر صرامة. ومع ذلك، ذكرت اللجنة أن استجابات الشركات "اعتمدت في المقام الأول على آليات الإبلاغ التي يبدأها المستخدمون" ولم تتناول "المخاطر الجوهرية" التي يشكلها Grok.

في أعقاب الردة الفعلية من الحكومات والمستخدمين، قامت xAI بتغييرات في إمكانية الوصول إلى المنصة. الشركة حددت مولد صور Grok بالذكاء الاصطناعي للمشتركين الدافعين رسوماً عالمياً.

رد إيلون ماسك على الانتقاد على X، قائلاً: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس العواقب كما لو قام بتحميل محتوى غير قانوني". أكدت منشور منفصل من حساب الأمان التابع لـ X سياسة الشركة باتخاذ إجراء ضد المحتوى غير القانوني، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM)، عن طريق إزالتها وتعليق الحسابات.

🌍 زيادة الضغط العالمي

يواجه Grok ضغوطاً من الحكومات حول العالم. أشارت السلطات الفرنسية إلى أنها ستتحقق من التزييف العميق الجنسي الصريح الذي يولده الذكاء الاصطناعي. أرسلت الحكومة الهندية رسالة إلى ممثل الامتثال الرئيسي لـ X، موضحة أن Grok "يسيء المستخدمون استخدامه" لتوليد "صور أو فيديوهات للنساء بطريقة مهينة أو فاحشة". طلبت الهند من X إجراء مراجعة شاملة وإزالة المحتوى الذي ينتهك القوانين المحلية.

في المملكة المتحدة، تواصلت هيئة الاتصالات Ofcom بشكل عاجل مع X و xAI لفهم الخطوات المتخذة لحماية المستخدمين في المملكة المتحدة. في الوقت نفسه، طلب عدة أعضاء في مجلس الشيوخ الأمريكي من Apple و Google إزالة X و Grok من متاجر التطبيقات الخاصة بهما. وجادل أعضاء مجلس الشيوخ بأن الفشل في التصرف سي "يُسخر" من ممارسات الإشراف للمنصات.