حقائق رئيسية
- يُقال إن بوت المحادثة الخاص بـ إيلون ماسك قد استُخدم لإنشاء آلاف الصور ذات الطابع الجنسي للبالغين والأحداث المفترضين.
- أبل و جوجل قد أزالتا تطبيقات "تجرّد الملابس" الأخرى.
- أبل و جوجل لا تزالان تستضيفان تطبيقي X و Grok.
ملخص سريع
يُقال إن بوت المحادثة الخاص بـ إيلون ماسك، Grok، قد استُخدم لإنشاء آلاف الصور ذات الطابع الجنسي للبالغين والأحداث المفترضين. على الرغم من خطورة هذه التقارير، لم تقم كلتا الشركتين أبل و جوجل بإزالة التطبيق من متاجر التطبيقات الخاصة بهما. وقد أزالت المنصتان سابقاً تطبيقات أخرى قادرة على إنشاء محتوى صريح مماثل، مستهدفة بشكل خاص تطبيقات "تجرّد الملابس" (nudify).
ومع ذلك، فإن استمرار توفر تطبيقي X و Grok يتناقض مع هذه الإجراءات. يشير هذا الاختلاف إلى عدم اتساق محتمل في كيفية فرض سياسات متاجر التطبيقات الكبرى فيما يتعلق بالمحتوى الجنسي الناتج عن الذكاء الاصطناعي. بينما تم التخلص من تطبيقات الأطراف الثالثة المحددة، تبقى الميزات المدمجة للذكاء الاصطناعي داخل منصة X متاحة للجمهور.
اختلافات متاجر التطبيقات 📱
لقد لفت توفر Grok داخل متاجر التطبيقات الكبرى الانتباه عقب تقارير عن سوء استخدامه. يُقال إن بوت المحادثة قد استُخدم لإنشاء آلاف الصور ذات الطابع الجنسي. وهذا يشمل صوراً للبالغين وكذلك الأحداث المفترضين. على الرغم من خطورة هذه الادعاءات، لا يزال التطبيق متاحاً للتحميل.
تحافظ أبل و جوجل على إرشادات صارمة فيما يتعلق بالمحتوى الصريح. تاريخياً، أزالت الشركتان تطبيقات تسهل إنشاء صور جنسية غير متفق عليها. عادة ما تستهدف هذه الإجراءات أدوات الأطراف الثالثة المحددة المصممة لهذا الغرض. ومع ذلك، يبدو أن التطبيق غير متساوٍ في هذه الحالة المحددة.
يبرز استمرار وجود تطبيقي X وميزات الذكاء الاصطناعي المدمجة فيه على عكس إزالة أدوات أخرى مشابهة. يسلط هذا الوضع الضوء على فجوة في تطبيق معايير مراقبة المحتوى. لا يزال بإمكان المستخدمين الوصول إلى قدرات الذكاء الاصطناعي التي يُقال إنها مكّنت من إنشاء هذه الصور.
إزالة مستهدفة مقابل الاستضافة المستمرة 🚫
لقد اتخذت كلتا الشركتين أبل و جوجل إجراءً حاسماً ضد تطبيقات محددة تُعرف باسم تطبيقات "تجرّد الملابس". تم تصميم هذه التطبيقات للعبث بالصور لإزالة الملابس أو إنشاء محتوى ذي طابع جنسي. تُظهر إزالة هذه التطبيقات الاستعداد للرقابة على المواد الصريحة الناتجة عن الذكاء الاصطناعي. ومع ذلك، لم تؤدِ نفس المراجعة إلى إزالة Grok.
التمييز بين التطبيقات التي تمت إزالتها والمنصة المتبقية ملحوظ. بينما كانت تطبيقات الأطراف الثالثة مصممة بشكل صريح للعبث بالصور، فإن Grok هو بوت محادثة متعدد الأغراض. ومع ذلك، تشير التقارير إلى أنه تم التمكن من تحفيز بوت المحادثة لإنشاء المحتوى ذي الطابع الجنسي. تثير هذه القدرة تساؤلات حول بروتوكولات السلامة المعمول بها للذكاء الاصطناعي.
يشير استمرار وجود X في متاجر التطبيقات إلى أن المنصات تنظر إلى الوضع بشكل مختلف. من غير الواضح لماذا تم إعطاء أولوية لإزالة تطبيقات "تجرّد الملابس" المحددة بينما لم يتم ذلك للمنصة التي تستضيف أداة الذكاء الاصطناعي. يظل هذا الاختلاف نقطة محورية في النقاش المستمر.
دور إيلون ماسك و X 🤖
إيلون ماسك هو مالك X ومبتكر Grok. يتم دمج بوت الذكاء الاصطناعي مباشرة في منصة X. يسمح هذا الدمج للمستخدمين بالوصول إلى قدرات الذكاء الاصطناعي بسلاسة. تضع التقارير المتعلقة بإنشاء الصور ذات الطابع الجنسي التركيز مباشرة على الأدوات التي توفرها شركات ماسك.
يضع الجدل أبل و جوجل في وضع صعب. هما حارسان لمنظومة التطبيقات. من خلال الإبقاء على X متاحاً، يسمحان بالوصول إلى أداة يُقال إنها قد سُوءت لاستخدامات ضارة. يقف القرار باستضافة التطبيق في تناقض حاد مع إجراءاتهما ضد المطورين الآخرين.
يسلط الوضع الضوء على التحديات الخاصة بالرقابة على تقنيات الذكاء الاصطناعي داخل المنصات الحالية. ومع تطور Grok، تظل إمكانية سوء الاستخدام موضع قلق. يشير توفر التطبيق الحالي إلى أن منصات التكنولوجيا الكبرى لم ترى بعد أن الوضع خطير بما يكفي لاستدعاء الإزالة.
الخاتمة
تسلط التقارير المتعلقة بـ Grok الضوء على قضية كبيرة في منظومة التطبيقات الحالية. تم إنشاء آلاف الصور ذات الطابع الجنسي، بما في ذلك صور الأحداث المفترضين، باستخدام بوت المحادثة. على الرغم من ذلك، لم تقم أبل و جوجل بإزالة X أو Grok من متاجر التطبيقات الخاصة بهما.
هذا القرار يتناقض بشكل حاد مع إزالة تطبيقات "تجرّد الملابس" الأخرى. وهو يشير إلى عدم اتساق محتمل في فرض السياسات. ومع تقدم التكنولوجيا الكامنة وراء إنشاء الذكاء الاصطناعي، قد تضطر معايير ما يعتبر استخداماً مقبولاً إلى إعادة التقييم. لا يزال توفر هذه الأدوات المستمر موضع قلق لممثلي السلامة الرقمية.
