الخدع العميقة باستخدام الذكاء الاصطناعي تتظاهر بأنها قساوسة أمريكيون للاحتيال

ملخص سريع

تواجه المجتمعات الدينية عبر الولايات المتحدة اتجاهًا مقلقًا يتضمن سوء استخدام الذكاء الاصطناعي. حيث يقوم م actors أشرار بنشر تقنية الخدع العميقة (deepfake) لإنشاء نسخ مصوتية ومرئية مقنعة للقساوسة والقادة الدينيين. يتم استخدام هذه التمثيلات الرقمية لنشر رسائل تحريضية، والأهم من ذلك، لطلب التبرعات من أعضاء الكنائس الذين لا يشكرون في أمرهم.

تستغل هذه الاحتيالات الثقة الأصيلة الموجودة داخل المجتمعات الروحية. ومن خلال تقليد صوت ومظهر شخصيات موثوقة، تتجاوز مقاطع الفيديو والصوت المولدة بالذكاء الاصطناعي الشك الذي قد يواجه محاولة احتيال عامة. تبدو الأهداف الرئيسية لهذه الحملات هي الحصول على أموال من خلال التبرعات الاحتيالية وإحداث اضطراب في تماسك المجتمع. ومع تطور هذه الأدوات وانتشارها، تجد المؤسسات الدينية نفسها في الخطوط الأمامية لمعركة جديدة ضد الخداع الرقمي.

صعود الخداع الرقمي

تشير التقارير الأخيرة إلى أن المجتمعات الدينية تتعرض لتكرار يشير إلى وجود جهد منسق. يتمثل جوهر الاحتيال في إنشاء وسائط تبدو وكأنها تعرض قسًا يلقي خطبة أو يصدر بيانًا يتعارض مع معتقداته الفعلية أو معايير طائفته. غالبًا ما يتم مشاركة هذا المحتوى على منصات التواصل الاجتماعي أو إرساله مباشرة إلى الأعضاء عبر البريد الإلكتروني أو تطبيقات المراسلة.

بمجرد انتشار المحتوى المثير للجدل، غالبًا ما يتبع الجناة طلبًا للأموال. قد يكون هذا على شكل "حملة تبرعات خاصة" أو "حاجة عاجلة" للكنيسة. يقود الجمع بين التلاعب العاطفي - باستخدام وجه القس الموثوق - وطبيعة الطلب العاجلة العديد من الأشخاص إلى التبرع قبل التحقق من صحة الرسالة.

يمتد تأثير هذه الاحتيالات beyond الخسارة المالية الفورية. فهي تخلق الحيرة و عدم الثقة داخل المجموعة الدينية. قد يتساءل الأعضاء عن نزاهة قادتهم، أو العكس، يشعرون بالحماقة لكونهم قد خُدعوا. قد يستغرق إصلاح الضرر الثقة المجتمعية وقتًا أطول بكثير من استعادة الأموال المفقودة.

كيف تعمل التقنية 🤖

التقنية الكامنة وراء هذه الهجمات، المعروفة باسم الخدع العميقة (deepfakes)، تعتمد على خوارزميات التعلم الآلي. تحلل هذه الخوارزميات ساعات من لقطات موجودة للهدف - مثل خطب القس المسجلة - لتعلم تعابير وجهه، وإيقاع صوته، وأنماط كلامه. بمجرد التدريب، يمكن للذكاء الاصطناعي إنشاء محتوى جديد يبدو أن الهدف يقول أو يفعل أشياء لم يفعلها قط.

لكي تكون هذه الاحتيالات فعالة، يجب أن يكون جودة التزييف عالية بما يكفي لاجتياز فحص سطحي. لحسن الحظ للمحتالين، انخفضت عتبة الدخول لهذه التقنية بشكل كبير. الأدوات التي كانت يومًا ما مجال باحثين متخصصين أو استوديوهات هوليوود أصبحت الآن متاحة للجمهور، بما في ذلك المجرمون.

تشمل المؤشرات الرئيسية على وجود خدعة عميقة غالبًا ما:

• رمش أو حركات وجه غير طبيعية
• صوت يبدو روبوتياً بشكل طفيف أو غير متزامن مع حركات الشفاه
• إضاءة لا تتطابق مع البيئة
• طلبات للأموال تختلف عن إجراءات الكنيسة القياسية

حماية المجتمعات 🛡️

ومع تطور هذه التهديدات، يتم حث المؤسسات الدينية على تبني بروتوكولات تحقق أكثر صرامة. يتم تشجيع القادة على إنشاء قنوات اتصال واضحة للطلبات المالية. إذا عرفت المجموعة الدينية أن قسها لن يطلب الأموال عبر رابط فيديو عشوائي، فإنها تكون أقل عرضة للوقوع في الاحتيال.

أصبحت خطوات التحقق ضرورية. قبل التبرع أو مشاركة المحتوى المثير للجدل، ينصح الأعضاء بالتحقق من الرسالة مع مواقع الكنيسة الرسمية أو الاتصال بمكتب الكنيسة مباشرة. كما يمكن أن يمنع المصادقة متعددة العوامل على حسابات الكنيسة الاختراق الأولي لقنوات التواصل الاجتماعي التي قد تستخدم لاستضافة محتوى الخدع العميقة.

التثقيف هو الدفاع الأقوى. من خلال رفع الوعي بوجود وقدرات الخدع العميقة بالذكاء الاصطناعي، يمكن للمجتمعات تطعيم أنفسهم ضد صدمة المحتوى. المعرفة بأن مثل هذه الفيديوهات يمكن تزييفها يساعد على تقليل التأثير العاطفي ويشجع على نهج أكثر حذرًا ونقديًا للوسائط الرقمية.

تأثيرات أوسع

هذه الموجة من الهجمات على المجموعات الدينية هي جزء من قلق عالمي أكبر بخصوص تسليح الذكاء الاصطناعي. بينما الضحايا الفوريون هم جماعات دينية في الولايات المتحدة، فإن إمكانية استخدام تكتيكات مماثلة في التضليل السياسي أو الاحتيال التجاري كبيرة. يشكل تآثر الثقة في ما نراه ونسمعه عبر الإنترنت خطرًا نظاميًا على المجتمع.

المؤسسات الدينية، مع اعتمادها على الكلمة المنطوقة وسمعة قادتها، تمثل ضعفًا فريدًا. ومع ذلك، فهي تمثل أيضًا خط دفاع مرن. من خلال التكيف مع هذه التهديدات الرقمية، يمكن أن تكون نموذجًا للمجتمعات الأخرى التي تواجه تحديات مماثلة. من المرجح أن يشكل الرد على هذه الاحتيالات كيفية إدارة هذه المؤسسات لوجودها الرقمي لسنوات قادمة.