شرطة المملكة المتحدة تلقي باللوم على الذكاء الاصطناعي في تقرير مخابراتي خاطئ

خطأ الذكاء الاصطناعي في إنفاذ القانون

أحد أكبر قوات الشرطة في بريطانيا قد اعترف علنًا بفشل خطير في عملياته الاستخباراتية ناتج عن الذكاء الاصطناعي. قامت شرطة وست ميدلانز بتضمين معلومات مُختلقة تمامًا في تقرير رسمي، مما أثر بشكل مباشر على حقوق المدنيين الأبرياء.

نشأ الخطأ من Microsoft Copilot، مساعد ذكاء اصطناعي قام بإنشاء مباراة كرة قدم غير موجودة. ثم تم استخدام هذه المعلومات الخاطئة لتبرير منع مشجعي كرة القدم الإسرائيليين من حضور مباراة حقيقية، مما يوضح كيف يمكن لهلوسة الذكاء الاصطناعي أن تتجاوز التحقق وتسبب ضررًا ملموسًا.

جاء الاعتراف مباشرة من أعلى ضباط القوة، مما يمثل لحظة نادرة من الشفافية فيما يتعلق بدور الذكاء الاصطناعي في اتخاذ قرارات إنفاذ القانون.

المباراة المختلقة

احتوي تقرير المخابرات على معلومات مفصلة عن مباراة كرة قدم لم تحدث أبدًا. وفقًا للوثيقة، لعب ويست هام وماكابي تل أبيب ضد بعضهما البعض، مع إحصائيات وسياق يبدو أنهما شرعيان.

في الواقع، لم تحدث أي مباراة كهذه. كان الذكاء الاصطناعي قد هَلَّس—مصطلح تقني عندما يولد الذكاء الاصطناعي بشكل واثق معلومات خاطئة تبدو منطقية. وصلت هذه البيانات المختلقة عبر عمليات مراجعة الشرطة وأصبحت الأساس لقرارات تشغيلية.

كانت العواقب فورية ومحددة:

• تم تحديد مشجعي كرة القدم الإسرائيليين كمخاطر أمنية محتملة
• تم منع المشجعين رسميًا من حضور مباراة قادمة
• تم فرض قيود حقيقية على أفراد أبرياء
• ظل الخطأ غير مكتشف حتى بعد إجراءات التنفيذ

ما يجعل هذه الحالة مثيرًا للقلق بشكل خاص هو أن العديد من المراجعين البشريين قَبِلوا على ما يبدو محتوى الذكاء الاصطناعي المولَّد على أنه واقعي، مما يشير إلى ثغرات نظامية في بروتوكولات التحقق.

الرد الرسمي

كريغ غيلدفورد، قائد شرطة وست ميدلانز، تولى مسؤولية شخصية لمعالجة الموقف. يمثل اعترافه العام لحظة هامة من المساءلة بشأن أخطاء الذكاء الاصطناعي في الشرطة.

"في وقت ما بعد ظهر يوم الجمعة، أدركت أن النتيجة الخاطئة المتعلقة بمباراة ويست هام ضد ماكابي تل أبيب نشأت نتيجة استخدام Microsoft Co Pilot,"

تكشف هذه العبارة عن عدة نقاط حساسة حول الجدول الزمني للحادثة وحلها. أولاً، يظهر أن الاكتشاف كان حديثًا نسبيًا، حيث حدث في وقت ما بعد ظهر يوم الجمعة. ثانيًا، أرجع قائد الشرطة الخطأ مباشرة إلى Microsoft Copilot، وذكر أداة الذكاء الاصطناعي المسؤولة بشكل محدد.

هذه الدرجة من التحديد في البيانات العامة من مسؤولي إنفاذ القانون الكبار غير مألوفة، خاصة فيما يتعلق بفشل التكنولوجيا. يشير الاعتراف إلى أن شرطة وست ميدلانز أدركت الحاجة إلى الشفافية حول دور الذكاء الاصطناعي في عملياتها، حتى عندما أثبت هذا الدور أنه مثير للمشاكل.

ترفع هذه الحالة أسئلة حول إجراءات التحقق الحالية داخل القوة. كيف تمكنت المخابرات المختلقة من تجاوز المراجعة؟ ما هي الضمانات الموجودة لمنع هلوسة الذكاء الاصطناعي من التأثير على القرارات التشغيلية؟ هذه أسئلة لم يتم الإجابة عليها بعد والتي من المحتمل أن تدرسها وكالات إنفاذ القانون الأخرى عبر المملكة المتحدة وخارجها عن كثب.

تأثيرات أوسع نطاق

تمثل هذه الحالة لحظة محورية في العلاقة بين الذكاء الاصطناعي وإنفاذ القانون. بينما تعد أدوات الذكاء الاصطناعي كفاءة وتحسين القدرات التحليلية، فإن هذه الحالة تُظهر إمكانية التكنولوجيا لتعكير العدالة والإجراءات القانونية.

تسلط حالة شرطة وست ميدلانز الضوء على عدة مخاطر نظامية:

• يمكن لهلوسة الذكاء الاصطناعي أن تبدو موثوقة تمامًا للمراجعين البشريين
• قد لا تكون أنظمة التحقق مصممة لالتقاط الأكاذيب المولدة بواسطة الذكاء الاصطناعي
• يمكن أن تحدث عواقب حقيقية في العالم قبل اكتشاف الأخطاء
• تصبح سلاسل المساءلة معقدة عند وجود الذكاء الاصطناعي

بالنسبة لمشجعي كرة القدم الإسرائيليين المتأثرين، تمثل الحالة أكثر من مجرد عطل تقني—لقد واجهوا قيودًا فعلية على حريتهم في التنقل والتجمع بناءً على خيال. لا يمكن تجاهل التأثير النفسي والعملي لكونهم مصنفين كخطر أمني.

يشير الخبراء التكنولوجيون إلى أن هذه الحالة على الأرجح ليست معزولة. مع اعتماد قوات الشرطة بشكل متزايد على أدوات الذكاء الاصطناعي لتحليل المخابرات، قد تحدث حالات مماثلة في أماكن أخرى. تصبح السؤالة ما إذا كانت الوكالات الأخرى ستظهر نفس الشفافية مثل شرطة وست ميدلانز، أو ما إذا كانت مثل هذه الأخطاء ستبقى مخفية عن الأنظار العامة.

التكنولوجيا والمساءلة

تضع الحالة Microsoft تحت المجهر فيما يتعلق بموثوقية Copilot في بيئات عالية المخاطر. بينما تسوق الشركة مساعد الذكاء الاصطناعي كأداة إنتاجية، فإن نشره في سياقات إنفاذ القانون يشير إلى طموحات أوسع نطاق—ومسؤوليات.

تعمل أنظمة الذكاء الاصطناعي مثل Copilot من خلال التنبؤ بأنماط النص المحتملة بناءً على بيانات التدريب. عندما تواجه فجوات في المعلومات، لا ت承认 عدم اليقين؛ بدلاً من ذلك، تولد محتوى يبدو منطقيًا. هذا السلوك، المعروف باسم الهلوسة، هو سمة أساسية لنموذجات اللغة الكبيرة الحالية.

لتطبيقات إنفاذ القانون، يخلق هذا فجوة خطيرة بين المظهر والواقع. يمكن أن يبدو تقرير الذكاء الاصطناعي موثوقًا، يذكر تفاصيل محددة، ويستخدم لغة مقنعة بينما يحتوي على اختلاق كامل.

تشير تجربة شرطة وست ميدلانز إلى أن أساليب التحقق التقليدية للشرطة قد تكون غير كافية لمحتوى الذكاء الاصطناعي المولَّد. تواجه القوة الآن تحدٍ تطوير بروتوكولات جديدة يمكنها التمييز بين التحليل المدعوم بالذكاء الاصطناعي الشرعي والهراء المتطور.

من المؤكد أن قوات الشرطة البريطانية الأخرى ستراقب هذه الحالة عن كثب. شرطة العاصمة، شرطة مانشستر الكبرى، والوكالات الكبرى الأخرى كانت تستكشف أدوات الذكاء الاصطناعي لتطبيقات متنوعة. قد تدفع هذه الحالة إلى إعادة تقييم هذه المبادرات وتنفيذ ضمانات أكثر صرامة.

الاستنتاجات الرئيسية

تُظهر حالة شرطة وست ميدلانز أن هلوسة الذكاء الاصطناعي ليست مجرد