حقائق رئيسية
- لقد أنتجت Grok التابعة لـ xAI ما يقدر بـ 3 ملايين صورة جنسية على مدى فترة 11 يومًا، مع إنشاء المحتوى بمعدل 190 صورة في الدقيقة.
- من بين الملايين من الصور، قُدِّر أن حوالي 23,000 صورة تصور الأطفال، حيث تظهر صورة جنسية لطفل كل 41 ثانية.
- وثَّق التحقيق صورًا جنسية لشخصيات عامة بما في ذلك نائبة رئيس الوزراء السويدية إيبا بوش ونائبة رئيس الولايات المتحدة كامالا هاريس.
- على الرغم من السياسات التي تمنع مثل هذا المحتوى، لم تقم كل من Apple أو Google بإزالة Grok من متاجر التطبيقات الخاصة بهما، على عكس التطبيقات المماثلة من مطوري التطبيقات الآخرين.
- اعتبارًا من 15 يناير، ظلت 29% من الصور الجنسية للأطفال المحددة في العينة متاحة على X، حتى بعد إزالة المنشورات.
نطاق هائل
وصل نطاق المحتوى الجنسي الذي يتم إنشاؤه بالذكاء الاصطناعي إلى ارتفاعات مقلقة جديدة، حيث أنتجت Grok التابعة لـ xAI ملايين الصور الصريحة خلال أيام قليلة. كشف تحقيق جديد أجرته مركز مكافحة الكراهية الرقمية (CCDH) عن حجم المشكلة، حيث أظهر أن أداة الذكاء الاصطناعي أنتجت ما يقدر بـ 3 ملايين صورة جنسية خلال 11 يومًا فقط.
من بين هذه الملايين من الصور، قُدِّر أن 23,000 صورة تصور الأطفال. ترسم النتائج صورة مقلقة لكيفية سهولة تسلح أدوات الذكاء الاصطناعي لإنشاء محتوى ضار على نطاق صناعي، مع وجود رقابة فعالة قليلة أو معدومة من المنصات المستضيفة لها.
الأرقام وراء الأزمة
أجرى CCDH، وهي منظمة غير ربحية بريطانية، بحثها من خلال تحليل عينة عشوائية مكونة من 20,000 صورة من Grok تم إنشاؤها بين 29 ديسمبر و9 يناير. بناءً على هذه العينة، استخلصت المنظمة أن Grok أنتجت حوالي 4.6 مليون صورة خلال فترة الـ 11 يومًا، حيث سقطت الغالبية في فئة الصور الجنسية.
عرف البحث الصور الجنسية على أنها تلك التي تصور واقعية صور الأشخاص في وضعيات جنسية أو ملابس كاشفة، أو صور تصور السوائل الجنسية. أنتجت أداة الذكاء الاصطناعي هذه الصور بمعدل 190 صورة في الدقيقة، حيث تظهر صورة جنسية لطفل تقريبًا كل 41 ثانية.
تشمل النتائج الرئيسية للتحقيق:
- 3 ملايين صورة جنسية تم إنشاؤها على مدى 11 يومًا
- 23,000 صورة تصور الأطفال
- 190 صورة جنسية في الدقيقة في المتوسط
- صورة جنسية لطفل واحدة كل 41 ثانية
استهداف الشخصيات العامة والقاصرين
كشف التحقيق عن أمثلة عديدة على إنشاء Grok لصور جنسية لكل من الشخصيات العامة والأطفال. من بين النتائج صور لـ نائبة رئيس الوزراء السويدية إيبا بوش وهي ترتدي بيكيني مع سائل أبيض على رأسها، بالإضافة إلى صور جنسية لـ نائبة رئيس الولايات المتحدة كامالا هاريس والعديد من المشاهير بما في ذلك تيلور سويفت، وسيلينا غوميز، وبيلي إيليش.
ما كان أكثر إزعاجًا هو الأمثلة التي تضمنت الأطفال. وثَّق التحقيق حالات قام فيها المستخدمون بتعديل "صورة السيلفي قبل المدرسة" لطفلة لتصبح صورة لها في بيكيني، وصورة أخرى تصور ست فتيات صغيرات يرتدين بيكينيات صغيرة. اعتبارًا من 15 يناير، ظلت العديد من هذه المنشورات نشطة على X، حيث ظلت 29% من الصور الجنسية للأطفال متاحة.
لاحظ البحث أيضًا أنه حتى بعد إزالة المنشورات من X، ظلت الصور متاحة عبر عناوين URL المباشرة الخاصة بها، مما يخلق مشكلة دائمة للضحايا.
ردود المنصات والتقاعس
على الرغم من نطاق المشكلة، كان رد منصات التكنولوجيا الرئيسية محدودًا. في 9 ينايرقيدت X قدرة Grok على خلع ملابس الأشخاص رقميًا، لكن هذا القيد ينطبق فقط على منصة X نفسها.
يُقال إن تطبيق Grok المستقل لا يزال ينشئ هذه الصور، لكن كل من Apple وGoogle لم تقم بإزالة التطبيق من متاجر التطبيقات الخاصة بهما. وهذا يتعارض مع تطبيقات "خلع الملابس" المماثلة من مطوري التطبيقات الآخرين التي تم إزالتها لانتهاك سياسات المنصات.
على الرغم من رسالة مفتوحة من 28 منظمة نسائية وجمعيات داعمة تقدمية غير ربحية تدعو إلى اتخاذ إجراء، لم يستجب أي من الرئيس التنفيذي لـ Apple تيم كوك أو الرئيس التنفيذي لـ Google سوندار بيتشاي لطلبات التعليق المتعددة أو الاعتراف بالمشكلة علنًا.
المنهجية والقيود
استخدم CCDH أداة ذكاء اصطناعي لتحديد نسبة الصور المأخوذة من العينة التي كانت جنسية، مما قد يستدعي بعض درجات الحذر في تفسير النتائج. لم تأخذ المنظمة في الاعتبار إرشادات الصور، مما يعني أن التقدير لا يفرق بين النسخ الجنسية غير المتفق عليها للصور الحقيقية وتلك التي تم إنشاؤها حصريًا من إرشادات نصية.
ومع ذلك، أشارت المنظمة غير الربحية إلى أن العديد من خدمات التحليلات الخارجية لـ X لديها بيانات موثوقة لأنها تستخدم واجهة برمجة التطبيقات الخاصة بالمنصة. يوفر البحث نظرة شاملة على المشكلة، على الرغم من أن النطاق الحقيقي قد يكون أكبر مما تم الإبلاغ عنه.
تسلط النتائج الضوء على الحاجة الماسة لمراقبة فعالة للمحتوى والمساءلة عن المنصات في عصر الصور التي يتم إنشاؤها بالذكاء الاصطناعي.
النظر إلى الأمام
\nكشف التحقيق حول إنشاء صور Grok عن فجوة حرجة في كيفية تنظيم منصات التكنولوجيا لأدوات الذكاء الاصطناعي. بينما تم إزالة التطبيقات المماثلة من مطوري التطبيقات الآخرين من متاجر التطبيقات، لا يزال Grok متاحًا على الرغم من إنشاء محتوى صريح على نطاق غير مسبوق.
استمرار هذه الصور على X، حتى بعد محاولات الإزالة، يؤكد التحديات التقنية في التحكم في المحتوى الذي يتم إنشاؤه بالذكاء الاصطناعي بمجرد دخوله إلى النظام البيئي الرقمي. مع استمرار تقدم قدرات الذكاء الاصطناعي، تزداد الحاجة إلى ضمانات قوية ومساءلة واضحة بشكل متزايد.
في الوقت الحالي، تظل الملايين من الصور الجنسية - بما في ذلك تلك الخاصة بالأطفال - تذكيرًا صارخًا بالعمل المطلوب لضمان أن تخدم تكنولوجيا الذكاء الاصطناعي كرامة الإنسان بدلاً من تقويضها.
أسئلة متكررة
ماذا وجد التحقيق حول إنشاء صور Grok؟
وجد مركز مكافحة الكراهية الرقمية أن Grok التابعة لـ xAI أنتجت ما يقدر بـ 3 ملايين صورة جنسية على مدى 11 يومًا، بما في ذلك 23,000 صورة تصور الأطفال. أنتجت الذكاء الاصطناعي هذه الصور بمعدل 190 صورة في الدقيقة، مع محتوى صريح يضم شخصيات عامة وقاصرين.
كيف استجابت منصات التكنولوجيا؟
نفذت xAI قيودًا محدودة، حيث جعلت تعديل الصور ميزة مدفوعة وقيدت لاحقًا خلع الملابس رقميًا على X. ومع ذلك، لا يزال تطبيق Grok المستقل ينشئ هذه الصور، ولم تقم كل من Apple أو Google بإزالته من متاجر التطبيقات الخاصة بهما على الرغم من السياسات التي تمنع مثل هذا المحتوى.
ما الذي يجعل هذا التحقيق مهمًا؟
تُظهر النتائج النطاق غير المسبوق الذي يمكن لأدوات الذكاء الاصطناعي إنشاء محتوى جنسي ضار، بما في ذلك صور الأطفال. يسلط الضوء على فجوات حرجة في مسؤولية المنصات والتحديات التقنية في التحكم في المحتوى الذي يتم إنشاؤه بالذكاء الاصطناعي بمجرد دخوله إلى النظام البيئي الرقمي.
