حقائق رئيسية
- حدد قادة الأعمال في المنتدى الاقتصادي العالمي في دافوس أمان الذكاء الاصطناعي كمخاوف رئيسية، متجاوزًا القلق بشأن فقاعات السوق أو ضجة التكنولوجيا.
- أكد راج شارما من إرنست آند يانغ (EY) أن عملاء الذكاء الاصطناعي يعملون دون تتبع واضح للهوية، مما يخلق فجوة أمنية كبيرة مقارنة بمراقبة المستخدمين البشريين.
- ذكر تيم والش من كيه بي إم جي الولايات المتحدة (KPMG US) أن المخاطر السيبرانية المتعلقة بالذكاء الاصطناعي هي الموضوع الأكثر شيوعًا في مناقشاته مع المديرين التنفيذيين، مما يؤثر على جداول نشر البرامج.
- تأجل شركات عمليات الترحيل إلى السحابة وتحتفظ بالبيانات على الخوادم المحلية لفترة أطول لضمان إنشاء بروتوكولات الأمان قبل التوسع.
- تمثل الحوسبة الكمية تهديدًا مستقبليًا يمكن أن يكسر جميع معايير التشفير الحالية، مما يدفع إلى جهود إعادة التشفير المبكرة.
- غالبًا ما يتضمن حل تهديدات أمان الذكاء الاصطناعي نشر أنظمة ذكاء اصطناعي إضافية، مما يخلق مشهدًا أمنيًا معقدًا للمؤسسات.
ملخص سريع
حدد قادة الأعمال الذين يجتمعون في دافوس، سويسرا للمنتدى الاقتصادي العالمي تحولاً حاسماً في نقاش الذكاء الاصطناعي. بدلاً من مناقشة فقاعات السوق أو ضجة التكنولوجيا، يطلق المديرون التنفيذيون إنذاراً بشأن تهديد أكثر شيوعاً: أمان الذكاء الاصطناعي.
تركز المخاوف على تحديين مميزين لكنهما مترابطان: إدارة عملاء الذكاء الاصطناعي المستقلين والتهديد الوشيك للحوسبة الكمية. تدفع هذه القضايا الشركات إلى إعادة تقييم جداول نشر البرامج وبروتوكولات الأمان، مع تأجيل بعضها عمليات الترحيل إلى السحابة لضمان أمان بيئات البيانات الخاصة بهم.
فجوة عامل الذكاء الاصطناعي
أحد أكثر القضايا إلحاحاً التي تم طرحها في المنتدى يتعلق بدورة حياة عملاء الذكاء الاصطناعي. تعمل هذه الأنظمة المستقلة مع الوصول إلى البيانات الحساسة ولكنها غالباً ما تفتقر إلى تتبع الهوية المطبق على المستخدمين البشريين.
أكد راج شارما، الشريك العالمي لإرنست آند يانغ (EY) للنمو والابتكار، على هذه الفجوة الأمنية الأساسية. لاحظ أن التفاعلات البشرية مع أنظمة الكمبيوتر يتم تتبعها عادة، بينما غالباً ما تعمل عملاء الذكاء الاصطناعي دون إسناد واضح.
"لديه وصول إلى بياناتك. ليس لديه اسم، لذا لا توجد هوية أو أي شيء مرتبط بذلك."
جادل شارما بأن الصناعة تحتاج إلى بناء مستوى أمني صناعي لهذه العملاء لإغلاق فجوة الثغرة الأمنية.
- عملاء الذكاء الاصطناعي يحتاجون إلى تتبع الهوية مشابه للمستخدمين البشريين
- بروتوكولات الأمان الحالية تفتقر إلى النضج للأنظمة المستقلة
- الوصول إلى البيانات دون إسناد يخلق مخاطر كبيرة
"لديه وصول إلى بياناتك. ليس لديه اسم، لذا لا توجد هوية أو أي شيء مرتبط بذلك."
— راج شارما، الشريك العالمي لإرنست آند يانغ (EY) للنمو والابتكار
أولويات الأمن التنفيذية
القلق بشأن أمان عامل الذكاء الاصطناعي مشترك عبر الطابق التنفيذي. ذكر تيم والش، المدير التنفيذي لكيه بي إم جي الولايات المتحدة (KPMG US)، أن المخاطر السيبرانية المتعلقة بالذكاء الاصطناعي هي الموضوع الأكثر شيوعاً في محادثاته مع المديرين التنفيذيين.
هذا التركيز على الأمان يعيد تشكيل استراتيجيات الذكاء الاصطناعي للشركات بشكل فعال. أصبحت المخاطر المتصورة كبيرة بما يكفي لتغيير جداول نشر البرامج، مع اتخاذ الشركات نهجاً أكثر حذرية في التنفيذ.
"ليس أنهم لا يتحركون للأمام، ولكنهم يأخذون لحظة للتأكد من أن بيئتهم آمنة، وربما حتى ترك البيانات على الخوادم المحلية لفترة أطول قليلاً حتى يتأكدوا من أنهم وضعوا أمان بياناتهم في مكانه."
يمثل هذا الموقف الحذر تحولاً من التبني السريع إلى نشر استراتيجي يركز على الأمان، مع إعطاء الأولوية لحماية البيانات على حساب السرعة إلى السوق.
تهديد الحوسبة الكمية
بالإضافة إلى مخاوف عامل الذكاء الاصطناعي الفورية، يستعد المديرون التنفيذيون أيضًا لتحول تكنولوجي طويل المدى: الحوسبة الكمية. على الرغم من أنها لا تزال بعيدة عن التطوير الكامل بعد سنوات، إلا أن تأثيرها المحتمل على الأمن السيبراني يدفع بالفعل إلى اتخاذ إجراءات.
وصف والش الحوسبة الكمية كتهديد أساسي لمعايير التشفير الحالية. قوة التكنولوجيا كبيرة لدرجة أنها يمكن أن تجعل إجراءات الأمن الحالية قديمة.
"الحوسبة الكمية تكسر كل شيء. أعني، كل التشفير."
هذه الواقعية تدفع الشركات إلى بدء العملية المعقدة لإعادة تشفير أنظمتها. الانتقال ليس بسيطاً ولا سريعاً، ويحتاج إلى تخطيط كبير وتخصيص موارد.
- الحوسبة الكمية تهدد جميع طرق التشفير الحالية
- الشركات تبدأ في التخطيط المبكر لإعادة التشفير
- الانتقال يتطلب وقتاً كبيراً وتغييرات هيكلية
استراتيجية الذكاء الاصطناعي الموجهة للأمان
السخرية في المشهد الأمني الحالي ليست خفية على قادة الصناعة. حيث يقدم الذكاء الاصطناعي ثغرات أمنية جديدة، غالباً ما يتضمن الحل نشر المزيد من الذكاء الاصطناعي لمكافحة التهديدات.
تقييم شارما للحالة الحالية هو واقعي. على الرغم من النقاش الواسع حول أمان الذكاء الاصطناعي، يبقى التنفيذ الفعلي غير ناضج.
"كل شخص يتحدث بشكل جيد. ولكن إذا نظرت تحت الغطاء، فإنه لا يزال غير ناضج."
اعترف بأن هذه الفجوة في الاستعداد للأمن هي ما يبقيه مستيقظاً في الليل. يكمن التحدي في بناء أطر أمنية قوية يمكنها مواكبة قدرات الذكاء الاصطناعي المتطورة بسرعة مع معالجة كل من مشاكل إدارة العاملين الفورية والتهديدات المستقبلية للكمية.
النظر إلى الأمام
تشير المناقشات في دافوس إلى نهج ناضج لتبني الذكاء الاصطناعي. انتقل التركيز من ضجة تأملية إلى تنفيذ أمني ملموس، مع إعطاء المديرون التنفيذيين الأولوية لإدارة المخاطر على حساب النشر السريع.
يتشكل إستراتيجية الشركات من خلال جدول زمني مميز: الحاجة الفورية لتأمين عملاء الذكاء الاصطناعي والاستعداد طويل المدى لتأثير الحوسبة الكمية على التشفير. تستجيب الشركات من خلال اتخاذ نهج أكثر حذرية في تنفيذ الذكاء الاصطناعي، مع ضمان أن أساسيات الأمان الخاصة بها تكون متينة قبل توسيع نطاق وجودها الرقمي.
يتضمن المسار إلى الأمام بناء أمان من المستوى الصناعي للأنظمة المستقلة مع الاستعداد في نفس الوقت لتحول أساسي في معايير التشفير. يمثل هذا التركيز المزدوج الواقعية الجديدة لإستراتيجية الذكاء الاصطناعي للمؤسسات.
"علينا بناء أمان من المستوى الصناعي لعملاء الذكاء الاصطناعي في ذلك المجال المحدد. بالنسبة لي، لا تزال هذه فجوة يحتاج شخص ما للعمل عليها."
— راج شارما، الشريك العالمي لإرنست آند يانغ (EY) للنمو والابتكار
"كل شخص يتحدث بشكل جيد. ولكن إذا نظرت تحت الغطاء، فإنه لا يزال غير ناضج."
— راج شارما، الشريك العالمي لإرنست آند يانغ (EY) للنمو والابتكار
"هذا ما يبقيه مستيقظاً في الليل."
— راج شارما، الشريك العالمي لإرنست آند يانغ (EY) للنمو والابتكار
"ليس أنهم لا يتحركون للأمام، ولكنهم يأخذون لحظة للتأكد من أن بيئتهم آمنة، وربما حتى ترك البيانات على الخوادم المحلية لفترة أطول قليلاً حتى يتأكدوا من أنهم وضعوا أمان بياناتهم في مكانه."
— تيم والش، المدير التنفيذي لكيه بي إم جي الولايات المتحدة (KPMG US)
"الحوسبة الكمية تكسر كل شيء. أعني، كل التشفير."
— تيم والش، المدير التنفيذي لكيه بي إم جي الولايات المتحدة (KPMG US)
