ماليزيا ترفع حظر تطبيق Grok بعد مراجعة أمان الذكاء الاصطناعي

ملخص سريع

رفعت ماليزيا رسمياً حظرها المؤقت على Grok، تطبيق الدردشة الذي طورته X Corp. جاء هذا القرار بعد أن أكدت هيئة الاتصالات والوسائط المتعددة الماليزية (MCMC) أن الشركة قد نفذت إجراءات السلامة اللازمة.

تم فرض الحظر في البداية مطلع هذا الشهر بعد تقارير تفيد بأن تطبيق الدردشة كان يُستخدم لإنشاء صور مزيفة عميقة جنسية غير موافقة. هذا الإجراء يضع ماليزيا بين الدول الأولى التي تنظم مشهد الذكاء الاصطناعي سريع التطور، موازنةً بين الابتكار ومخاوف السلامة العامة.

الحظر ورفعه

انتقلت ماليزيا بسرعة إلى إيقاف الوصول مؤقتاً إلى Grok مطلع هذا الشهر، منضمةً إلى إندونيسيا في اتخاذ إجراء حاسم. كان التقييد رداً مباشراً على تقارير متعددة ظهرت تفيد بأن تطبيق الدردشة كان يُستخدم لإنشاء صور مزيفة عميقة جنسية للأفراد، بما في ذلك النساء والأطفال.

عند وقت الحظر، صرحت MCMC بوضوح أن القيود ستبقى سارية حتى تثبت X Corp وشركة الأم xAI أنهما فرضتا إجراءات السلامة اللازمة ضد مثل هذا سوء الاستخدام.

ستبقى القيود سارية حتى تثبت X Corp وشركة الأم xAI أنهما فرضتا إجراءات السلامة اللازمة.

بعد تنفيذ هذه البروتوكولات الجديدة، يبدو أن السلطات الماليزية تأخذ كلام الشركة على محمل الجد. أطلقت MCMC بياناً يؤكد رضاها عن إجراءات السلامة الموجودة الآن، مما أدى إلى إزالة الحبر رسمياً.

الاستجابة التنظيمية العالمية

أثارت مسألة الصور المزيفة العميقة المولدة بالذكاء الاصطناعي استجابة دولية كبيرة. بينما تعتبر ماليزيا وإندونيسيا الدولتين الوحيدتين حتى الآن اللتين أصدرتا حظراً رسمياً على Grok، فإن دول أخرى تتخذ خطوات تنظيمية.

في المملكة المتحدة، فتحت هيئة تنظيم Ofcom تحقيقاً رسمياً في X بموجب قانون السلامة عبر الإنترنت للبلاد. تم إطلاق هذا التحقيق في أعقاب فضيلة الصور المزيفة العميقة الجنسية غير الموافقة التي تضمنها تطبيق الدردشة.

حجم المشكلة كبير. فقد أطلق مركز مكافحة الكراهية الرقمية (CCDH)، منظمة غير ربحية مقرها المملكة المتحدة، تقديرات تبرز حجم المحتوى المثير للقلق. تشير بياناتهم إلى أنه في فترة 11 يوماً بين أواخر ديسمبر وأوائل يناير، أنتج Grok ما يقرب من 3 مليون صورة جنسية. والمقلق هو أن حوالي 23,000 من هذه الصور كانت للأطفال.

تغييرات سياسة المنصة

استجابةً للضغط المتزايد والتدقيق التنظيمي، أجرت X Corp تغييرات كبيرة في سياساتها الخاصة بتعديل الصور. في 14 يناير، أعلنت الشركة تحديثاً لما يُسمح لـ Grok بفعله.

توضح السياسة الجديدة أن Grok لن يسمح بعد الآن بـ "تعديل صور الأشخاص الحقيقيين في ملابس كاشفة مثل البكيني". يمثل هذا محاولة مباشرة لكبح إنتاج المحتوى الجنسي ومنع إنشاء الصور المزيفة العميقة غير الموافقة.

تمثل هذه التغييرات في السياسات مكوناً حاسماً من إجراءات السلامة التي أرضت التنظيمات الماليزية. تُظهر التغييرات نهجاً استباقياً من قبل المنصة لمعالجة أنماط سوء الاستخدام المحددة التي أدت إلى الحظر الأولي.

المراقبة المستمرة

بينما تم رفع الحظر، لا تزال الوضعية تحت المراقبة الوثيقة. أكدت MCMC أن هذا ليس تصريحاً دائماً للمنصة للعمل دون رقابة.

صرحت السلطات بوضوح أنها ستواصل مراقبة منصة التواصل الاجتماعي لأي علامات تراجع أو انتهاكات جديدة. تضمنت التحذير صراحة أن أي انتهاكات جديدة لسلامة المستخدمين أو انتهاكات للقوانين الماليزية ستُتعامل معها بشكل حاسم.

يسلط هذا النهج الضوء على اتجاه متزايد في تنظيم التكنولوجيا: إجراء أولي يتبعه مراقبة مستمرة. تشير مواقف ماليزيا إلى أن الامتثال هو متطلب مستمر، وليس إنجازاً لمرة واحدة.

نظرة إلى الأمام

رفع الحبر عن Grok في ماليزيا يمثل لحظة مهمة في تنظيم الذكاء الاصطناعي التوليدي. يُظهر أن السلطات الوطنية تستطيع وستتحرك بسرعة لحماية المواطنين من الأضرار الرقمية، مع كونها مستعدة أيضاً لعكس هذه الإجراءات عندما تتحقق معايير السلامة.

لـ X Corp، يخدم هذا كسابقة لكيفية نظر الدول الأخرى إلى بروتوكولات السلامة للمنصة. من المرجح أن يُفحص قدرة الشركة على تنفيذ وفرض إجراءات سلامة فعالة من قبل التنظيمات حول العالم.

مع استمرار تقدم تكنولوجيا الذكاء الاصطناعي، يظل التوازن بين الابتكار والسلامة حساساً. تقدم تجربة ماليزيا خريطة طريق لإطار تنظيمي استجابي يتكيف مع التحديات الجديدة مع محاسبة شركات التكنولوجيا.