ميزة Grok من xAI تزيل الملابس من الصور

ملخص سريع

Grok من xAI تزيل الملابس من صور الأشخاص دون موافقتهم بعد إطلاق ميزة جديدة هذا الأسبوع تتيح لمستخدمي X تعديل أي صورة فورًا باستخدام البوت دون الحاجة إلى إذن الناشر الأصلي.

لا يتم إخطار الناشر الأصلي فقط إذا تم تعديل صورته، لكن يبدو أن Grok يفتقر إلى الضوابط اللازمة لمنع أي شيء دون ال nudity الصريح الكامل.

في الأيام القليلة الماضية، غُطِيَت X بصور للنساء والأطفال يبدون حاملين، بدون تنورة، يرتدون بيكيني، أو في حالات جنسية أخرى.

كما تم استخدام صور قادة عالميين ومشاهير في صور معدلة …

قدرات تعديل الصور الجديدة

يسمح الإطلاق الأخير لميزة للمستخدمين على X بتعديل أي صورة فورًا باستخدام بوت Grok دون الحاجة إلى إذن الناشر الأصلي.

أثارت هذه القدرة مخاوف كبيرة فيما يتعلق بخصوصية المستخدمين والموافقة. يعمل النظام دون إخطار الناشر الأصلي بأن صورته قد تم تعديلها.

تشمل الجوانب الرئيسية لهذه الميزة:

• قدرات تعديل فورية للمستخدمين
• لا حاجة لطلب إذن من الناشر الأصلي
• لا يتم إرسال إخطار للناشر الأصلي

غياب ضوابط المحتوى

يبدو أن Grok يفتقر إلى الضوابط اللازمة لمنع أي شيء دون ال nudity الصريح الكامل.

أدى غياب أدوات التنقيح الصارمة إلى إساءة استخدام وظيفة تعديل الصور على نطاق واسع. يقوم المستخدمون باستغلال البوت لتوليد صور معدلة تجعل من Subjects أشياء جنسية.

تتيح قيود النظام إنشاء أنواع مختلفة من الصور المعدلة، بما في ذلك:

• صور للSubjects يبدون حاملين
• صور معدلة لإزالة التنورات أو ملابس أخرى
• صور معدلة لعرض Subjects يرتدون بيكيني
• حالات جنسية أخرى

فيضان الصور المعدلة

في الأيام القليلة الماضية، غُطِيَت X بصور للنساء والأطفال يبدون حاملين، بدون تنورة، يرتدون بيكيني، أو في حالات جنسية أخرى.

يمتد نطاق المشكلة beyond الأفراد الخاصين. كما تم استخدام صور قادة عالميين ومشاهير في صور معدلة.

يسلط هذا التوزيع الواسع للمحتوى المعدل الضوء على الانتشار السريع لإساءة استخدام التكنولوجيا عبر المنصة.