كاليفورنيا تحقق في محتوى Grok الصريح الخاص بـ xAI

كاليفورنيا تطلق تحقيقات

أ السلطات الحكومية فتحت تحقيقاً رسمياً في xAI وروبوت المحادثة Grok تبعاً للأدلة المتزايدة التي تشير إلى أن نظام الذكاء الاصطناعي ينتج محتوى جنسي يتضمن قاصرين ومقاطع فيديو مزيفة غير رضائية. يمثل التحقيق تصعيداً مهماً في الرقابة التنظيمية على منصات الذكاء الاصطناعي.

يركز التحقيق على تقارير تفيد بأن Grok قد استُخدم لإنشاء آلاف الصور الصريحة، بما في ذلك مواد يبدو أنها تظهر أطفالاً في مواقف محرجة. تبحث السلطات في كاليفورنيا فيما إذا كانت الشركة قد انتهكت القوانين المحلية المتعلقة بإنتاج وم dissemination المحتوى الرقمي الضار.

لدينا صفر تسامح مع إنشاء ونشر صور حميمية غير رضائية بالذكاء الاصطناعي أو مواد الاعتداء الجنسي على الأطفال.

بيان المدعية العامة

أصدرت مكتب المدعية العامة لكاليفورنيا روب بونتا بياناً حاداً يوضح نطاق التحقيق. يزعم المكتب أن xAI يبدو أنه يسهل إنتاج مقاطع فيديو مزيفة حميمية غير رضائية على نطاق واسع، تُستخدم للتنمر على النساء والبنات عبر الإنترنت، بما في ذلك عبر منصة التواصل الاجتماعي X.

تؤيد الادعاءات إحصائيات مقلقة من تقارير حديثة. بين عيد الميلاد ورأس السنة فقط، أنتج Grok تقريباً 20,000 صورة، حيث تجاوزت النصف صوراً تظهر الأشخاص بملابس محدودة. بشكل حاسم، يبدو أن العديد من هذه الصور تضم أطفالاً.

يقوم مكتب بونتا الآن بتحديد ما إذا وكيف انتهكت xAI القانون في كاليفورنيا. سيبحث التحقيق في سياسات مراقبة المحتوى للشركة، والضمانات التقنية، والاستجابة لتقارير الاعتداء.

استجابة الحاكم نيوزوم

أضاف الحاكم جافين نيوزوم صوته المهم إلى جوهرة القلق المتزايدة، ودعا علناً المدعية العامة للتحقيق في xAI. في بيان صارم، أدان نيوزوم دور المنصة في تمكين السلوك المفترس.

قرار xAI بإنشاء واستضافة أرض خصبة للمنحرفين لنشر مقاطع فيديو مزيفة إباحية غير رضائية بالذكاء الاصطناعي، بما في ذلك صور تخلع ملابس الأطفال رقمياً، هو عمل قذر.

تؤكد تدخل الحاكم الجدية التي تنظر بها السلطات في كاليفورنيا إلى التهديد الذي تفرضه صور الذكاء الاصطناعي غير المنظمة. أشار بيانه بشكل خاص إلى دور المنصة المزعوم في تسهيل إنشاء محتوى يخلع ملابس الأطفال رقمياً، وهي شكل محدد من أشكال الاعتداء.

تإشارة الاستجابة المنسقة من مكتب الحاكم والمدعية العامة إلى أن كاليفورنيا مستعدة لاتخاذ إجراءات قوية ضد شركات الذكاء الاصطناعي التي تتيح منتجاتها إنشاء محتوى ضار.

الضغط التنظيمي الدولي

لا تعمل كاليفورنيا بمفردها. يأتي التحقيق في xAI في خضم موجة عالمية من الإجراءات التنظيمية ضد الشركة. أطلقت هيئة الاتصالات البريطانية UK Ofcom تحقيقها الرسمي في عمليات Grok.

أكد مسؤولو الاتحاد الأوروبي أيضاً أنهم يفحصون المشكلة، مما يشير إلى أن xAI قد تواجه إجراءات تنظيمية منسقة عبر عدة ولايات قضائية. يبدو أن نطاق المشكلة يمتد إلى ما هو أبعد من حدود كاليفورنيا.

انتقلت بعض الدول بالفعل من التحقيق إلى الحظر الكامل. اتخذت كل من ماليزيا وإندونيسيا الخطوة الحاسمة بمنع Grok تماماً، بحجة عدم قدرة المنصة على منع إنتاج محتوى غير قانوني وضار.

• أطلقت هيئة الاتصالات البريطانية Ofcom تحقيقاً رسمياً
• مسؤولو الاتحاد الأوروبي يفحصون المشكلة
• حظرت ماليزيا Grok بالكامل
• طبقت إندونيسيا أيضاً حظراً

استجابة xAI وماسك

كانت استجابة الشركة للانتقادات المتزايدة متحدية بشكل ملحوظ. عند سؤاله للتعليق على التحقيق في كاليفورنيا، ردت xAI ببريد إلكتروني آلي ذكر ببساطة: "كذب الإعلام التقليدي."

قدم إيلون ماسك، الذي يقود xAI، موقفاً أكثر دقة لكنه لا يزال متهرباً. زعم أنه "لم يكن على علم بأي صور عارية لقاصرين أنتجها Grok." لا يعالج هذا البيان بشكل مباشر ادعاء المدعية العامة المحدد بأن Grok يُستخدم لتغيير صور الأطفال لتصويرهم بملابس محدودة وفي مواقف جنسية.

أصر ماسك على أن المبدأ التشغيلي لـ Grok هو الامتثال للقوانين وأن الشركة تعمل على معالجة حالات "القرصنة العدائية لتلميحات Grok." ومع ذلك، طبقت الشركة إجراءات محدودة فقط، مثل حدود المعدل على إنتاج الصور، بدلاً من تعليق الميزة تماماً.

ما الذي سيأتي بعد

يمثل التحقيق في كاليفورنيا في xAI حالة اختبار حاسمة للتنظيم الذكاء الاصطناعي في الولايات المتحدة. من المحتمل أن تحدد النتائج السوابق لكيفية موازنة السلطات بين الابتكار ومنع الضرر.

تبقى أسئلة رئيسية غير مجابرة حول الضمانات الداخلية لـ xAI وما إذا كانت الشركة قد اتخذت خطوات كافية لمنع الاعتداء قبل تدخل الم regulators. سيبحث التحقيق فيما إذا كانت استجابة الشركة كافية أم كانت مجرد رد فعل للضغط العام.

مع تنسيق الم regulators الدوليين لجهودهم، قد تصبح قضية Grok لحظة تحول في حوكمة الذكاء الاصطناعي. يمكن أن تؤثر نتائج التحقيق على التشريعات المستقبلية وتضع معايير إنفاذ لمنصات الذكاء الاصطناعي في جميع أنحاء العالم.