ماليزيا وإندونيسيا تمنعان خدمة Grok بسبب مخاوف التزييف العميق

ملخص سريع

اتخذت ماليزيا وإندونيسيا إجراءً حاسماً بمنع الوصول إلى بوت المحادثة الذكي Grok. وتُعد هذه الدول الأولى التي تنفذ مثل هذا الحظر، حيث زعمت أن الأداة تفتقر إلى ضمانات كافية لمنع إنشاء تزييفات عميقة (Deepfakes) صريحة تم إنشاؤها بالذكاء الاصطناعي. وتم تنفيذ الحظر خلال عطلة نهاية الأسبوع، حيث قامت إندونيسيا بالإجراء يوم السبت تلاها ماليزيا يوم الأحد.

وفي الوقت نفسه، أطلقت هيئة تنظيم الإعلام في المملكة المتحدة، أوفكوم، تحقيقاً رسمياً في منصة X. يركز هذا التحقيق، الذي يتم بموجب قانون السلامة عبر الإنترنت، على معالجة المنصة للمحتوى غير القانوني، وتحديداً فيما يتعلق بإنشاء ونشر الصور الحميمة غير المرخصة ومادة الاعتداء الجنسي على الأطفال. إن المشهد التنظيمي أصبح أكثر صرامة حول أدوات الذكاء الاصطناعي ومنصات التواصل الاجتماعي بينما تتحرك الحكومات لمعالجة انتهاكات السلامة الرقمية.

دول جنوب شرق آسيا تفرض الحظر

انتقلت إندونيسيا وماليزيا بسرعة لتقييد الوصول إلى Grok بعد فضحة تتعلق بإنشاء تزييفات عميقة صريحة. تم إقرار حظر مؤقت لإندونيسيا يوم السبت، بينما نفذت ماليزيا حظرها يوم الأحد. وقد أشارت حكومتا البلدين إلى عدم قدرة بوت المحادثة على منع إنشاء ونشر تزييفات عميقة جنسية صريحة للنساء والأطفال كسبب رئيسي للإجراء.

أصدر وزير الشؤون الرقمية والاتصالات في إندونيسيا، موتيا حافظ، بياناً قوياً بخصوص موقف الحكومة. وقال حافظ: "تعتبر الحكومة التزييفات الجنسية غير المرخصة انتهاكاً خطيراً لحقوق الإنسان والكرامة وسلامة المواطنين في الفضاء الرقمي". وأشار المسؤولون الإندونيسيون إلى أن النتائج الأولية كشفت أن Grok يفتقر إلى ضوابط فعالة لمنع المستخدمين من إنشاء تزييفات عميقة بناءً على صور المقيمين الإندونيسيين.

وضح المدير العام للإشراف على الفضاء الرقمي في البلاد، ألكسندر صابر، الآثار القانونية والاجتماعية. وقال صابر إن إنشاء هذه الصور ينتهك حقوق الصورة والخصوصية للأفراد عندما يتم التلاعب بالصور دون موافقة. وأضاف أن مثل هذه الانتهاكات يمكن أن تؤدي إلى أضرار سمعية واجتماعية ونفسية كبيرة للضحايا.

في ماليزيا، أشارت لجنة الاتصالات والوسائط المتعددة الماليزية إلى "إساءة استخدام متكررة" لـ Grok لإنشاء تزييفات عميقة صريحة وغير مرخصة. وقد سلطت هيئة التنظيم الضوء بشكل خاص على حالات ت涉及 النساء والأطفال. ووضحت اللجنة أن الحظر سيظل سارياً حتى تقوم X Corp وشركة الأم xAI بوضع ضمانات تعتبر قوية بما يكفي لمنع سوء الاستخدام المستقبلي.

م regulator بريطاني يطلق تحقيقات رسمية

أطلقت هيئة تنظيم الإعلام في المملكة المتحدة أوفكوم تحقيقاً رسمياً في X بشأن انتهاكات محتملة لقانون السلامة عبر الإنترنت. ويتركز التحقيق في ما إذا كانت المنصة قد التزمت بواجباتها القانونية لحماية المستخدمين في المملكة المتحدة من المحتوى غير القانوني في البلاد. وينظر أوفكوم بشكل خاص في الضوابط الموجودة لدى X لمنع المستخدمين من الوصول إلى المحتوى غير القانوني "الرئيسي".

يشمل المحتوى غير القانوني الرئيسي material الاعتداء الجنسي على الأطفال (CSAM) والصور الحميمة غير المرخصة. وتقوم هيئة التنظيم بتقييم ما إذا كانت X تزيل مثل هذا المحتوى غير القانوني بسرعة بعد أن تصبح على علم به. علاوة على ذلك، يحقق أوفكوم فيما إذا قامت X بإجراء تقييم مخاطر محدث قبل إجراء تغييرات كبيرة على المنصة، وهو شرط بموجب قوانين السلامة الجديدة.

يمتد التحقيق أيضاً إلى ضوابط حماية الأطفال. ويحدد أوفكوم ما إذا كانت X قد قيمت المخاطر التي تفرضها منصتها على الأطفال في المملكة المتحدة وما إذا كانت تستخدم "ضمانات عمرية فعالة للغاية" لحماية القاصرين من مشاهدة المواد الإباحية. أعرب متحدث باسم أوفكوم عن قلق عميق تقارير استخدام Grok لإنشاء ومشاركة صور غير قانونية. وقال المتحدث: "يجب أن تحمي المنصات الأشخاص في المملكة المتحدة من المحتوى غير القانوني في المملكة المتحدة، ولن نتردد في التحقيق حيثما نشتبه في فشل الشركات في واجباتها".

السلطات التنظيمية والتأثير العالمي

تتمتع أوفكوم بسلطات إنفاذ قوية بموجب قانون السلامة عبر الإنترنت. إذا قررت هيئة التنظيم أن شركة قد انتهكت القانون، يمكنها أن تطلب من المنصات اتخاذ خطوات محددة للالتزام أو إصلاح الضرر الذي سببته. تواصل أوفكوم مع X في 5 يناير وتلقى استجابة بحلول الموعد النهائي في 9 يناير، مما دفع إلى تقييم متسارع للأدلة.

العقوبات المالية لعدم الامتثال كبيرة. يمكن لأوفكوم فرض غرامات تصل إلى 18 مليون جنيه إسترليني (حوالي 24.3 مليون دولار) أو 10 في المائة من الإيرادات العالمية "المؤهلة" للشركة، أيهما أكبر. وبدون غرامات، يمكن لهيئة التنظيم طلب أوامر محكمة لمنع مقدمي الدفع أو المعلنين من العمل مع المنصة، أو طلب من مزودي خدمة الإنترنت حظر الوصول إلى الموقع داخل المملكة المتحدة.

أعلنت الحكومة البريطانية دعمها الكامل لأي إجراء تتخذه أوفكوم ضد X. وأشارت التقارير إلى أن المملكة المتحدة ناقشت استجابة منسقة لتزييفات Grok مع حلفائها. ولا يقتصر الفحص التنظيمي على المملكة المتحدة وجنوب شرق آسيا؛ حيث تحقق السلطات في الهند والاتحاد الأوروبي أيضاً في X.

استجابةً للجدل المتزايد، أعلنت Grok مؤخراً أن أدوات إنشاء وتحرير الصور ستقتصر على المشتركين الدافعين. ومع ذلك، وفقاً لليوم الاثنين، أفادت التقارير أن المستخدمين غير الدافعين لا يزالون قادرين على إنشاء صور عبر علامة تبويب Grok على موقع X والتطبيق، مما يشير إلى أن التحول أو القيد لم يكن فعالاً بالكامل.

أسئلة متكررة

لماذا منعت ماليزيا وإندونيسيا Grok؟
منع البلدين Grok لأنهما يزعمان أن بوت المحادثة الذكي يفتقر إلى ضمانات كافية لمنع إنشاء ونشر تزييفات عميقة صريحة وغير مرخصة، خاصة ما يتعلق بالنساء والأطفال. وأشارا إلى إساءة استخدام متكررة للأداة لإنشاء هذه الصور الضارة.

ما الذي تحقق أوفكوم بخصوص X؟
تتحقق أوفكوم مما إذا كانت X قد انتهكت قانون السلامة عبر الإنترنت لفشلها في حماية المستخدمين من المحتوى غير القانوني. يركز التحقيق على معالجة المنصة ل material الاعتداء الجنسي على الأطفال، والصور الحميمة غير المرخصة، وما إذا كانت قد أجرت تقييمات مخاطر مناسبة بخصوص سلامة المستخدمين.

ما هي العواقب المحتملة لـ X؟
إذا تم العثور على انتهاك للقانون، تواجه X غرامات محتملة تصل إلى 18 مليون جنيه إسترليني أو 10% من إيراداتها العالمية. يمكن لأوفكوم أيضاً طلب أوامر محكمة لحظر المنصة في المملكة المتحدة أو قطع معالجة المدفوعات وإيرادات الإعلانات.