أداة صور Grok AI تنتقل إلى الإصدار المدفوع بعد انتقادات لصور مزيفة

ملخص سريع

أوقفت xAI وصولًا إلى أداة توليد الصور الخاصة بـ Grok للمشتركين المدفوعين فقط على منصة X، وذلك بعد موجة عالمية من الانتقادات. جاءت هذه الخطوة بعد استخدام الأداة لإنشاء صور جنسية دون رضى لأشخاص حقيقيين، بما في ذلك القاصرين. ضغطت الحكومات والجهات التنظيمية في جميع أنحاء العالم على الشركة لمعالجة سوء استخدام التكنولوجيا. بينما لا يزال تطبيق Grok المستقل متاحًا لتحرير الصور، أصبحت الميزة المدمجة في وسائل التواصل الاجتماعي الآن محظورة خلف جدار الدفع. وصف رئيس الوزراء البريطاني كير ستارمر الصور المولدة بأنها "مهينة" و "غير قانونية". رد إيلون ماسك بتهديد المستخدمين الذين ينشئون محتوى غير قانوني، بينما تواصلت هيئة الاتصالات البريطانية Ofcom مع xAI للتحقق من التزامها بالواجبات القانونية لحماية المستخدمين.

التغيير في السياسة

أوقفت xAI رسميًا الوصول إلى ميزات توليد وتحرير الصور على منصة X. الأداة متاحة الآن حصريًا للمشتركين المدفوعين. عندما يقوم المستخدمون بوضع علامة @ على Grok بطلبات تحرير الصور على X، ترد النظام: "توليد الصور وتحريرها محدود حاليًا للمشتركين المدفوعين".

هذا التغيير يعني أن غالبية المستخدمين على منصة التواصل الاجتماعي لم يعد بإمكانهم إنشاء صور باستخدام Grok. سيتم عرض اسم المستخدمين ومعلومات الدفع لديهم في السجل. ومع ذلك، يمكن للمستخدمين الذين ليسوا مشتركين مدفوعين في X الاستمرار في استخدام Grok لتحرير الصور على تطبيقه و موقعه المستقلين، على الرغم من أن الميزة المدمجة في وسائل التواصل الاجتماعي أصبحت الآن محظورة خلف جدار الدفع.

سبب القيود

اتخذت قرار تقييد الوصول بعد انتقادات واسعة النطاق بخصوص استخدام الأداة لإنشاء صور جنسية دون رضى. في أواخر ديسمبر، بدأ المستخدمون في وضع علامة @ على Grok على X وطلب منه إزالة الملابس رقميًا من الأشخاص في الصور. أوفت أداة الذكاء الاصطناعي بتلك الطلبات، مما وضع الأشخاص في ملابس داخلية أو بيكيني وحرك أجسادهم في وضعيات جنسية. كان بعض الأشخاص المصورين في الصور من القاصرين.

ومع تدفق المزيد من هذه الصور المولدة بالذكاء الاصطناعي على الموقع، هددت الحكومات والجهات التنظيمية في المملكة المتحدة والاتحاد الأوروبي وإيطاليا والهند ودول أخرى باتخاذ إجراءات ضد X و xAI. تركزت الانتقادات على تمكين الأداة من إنشاء صور مزيفة جنسية لأشخاص حقيقيين، في الغالب من النساء، عن طريق تعديل الصور رقميًا لإزالة ملابسهم ووضعهم في وضعيات جنسية.

الاستجابة السياسية والتنظيمية

كان ل figures السياسية أصوات عالية في انتقاد سوء استخدام الأداة. صرح متحدث باسم رئيس الوزراء البريطاني، كير ستارمر، للصحفيين أن هذه الخطوة "تحول مجرد ميزة ذكاء ااصطناعي تسمح بإنشاء صور غير قانونية إلى خدمة مدفوعة". وصف ستارمر نفسه الصور المزيفة الجنسية الخاصة بـ Grok بأنها "مهينة" و "غير قانونية" في مقابلة إذاعية.

اتخذت الجهات التنظيمية أيضًا إجراءات. يوم الاثنين، أكدت هيئة الاتصالات البريطانية، Ofcom، أنها "تواصلت بشكل عاجل مع X و xAI لفهم الخطوات التي اتخذتها للامتثال لواجباتها القانونية لحماية المستخدمين في المملكة المتحدة". في الولايات المتحدة، يحمي "قانون إزالتها" (Take It Down Act) ضد الصور المزيفة غير الرضائية، على الرغم من أن نطاقه يعتمد على العمر والأجزاء المظهرة في الصورة. كما أصدرت بعض الولايات قوانين أكثر صرامة بشأن نشر الصور المزيفة.

استجابة إيلون ماسك و xAI

واجه إيلون ماسك، الرئيس التنفيذي لـ xAI، تهديدات وإدانات من الحكومات حول العالم بعد سوء استخدام الأداة. في 3 يناير، رد ماسك على الانتقادات للمرة الأولى. كتب في منشور على X: "أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس العواقب كما لو كان يرفع محتوى غير قانوني".

وجهت صفحة X الرسمية المستخدمين إلى صفحة سياساتها، التي تنص على أن المنصة لديها "صفر تسامح مع أي أشكال من استغلال الأطفال جنسيًا". تلاحظ السياسة أن X تزيل "الوسائط معينة التي تصور الاعتداء الجسدي على الأطفال". عندما سُئلت xAI للتعليق على التغيير في السياسة، أرسلت رد بريد إلكتروني تلقائي لم يتطرق إلى المشكلة.