جوجل توقف ملخصات الذكاء الاصطناعي للبحث الطبي

ملخص سريع

أوقفت جوجل ملخصاتها المولدة بالذكاء الاصطناعي من نتائج استفسارات طبية محددة، وذلك بعد نشر تحقيق في وقت سابق من هذا الشهر. وقد أبرز التحقيق حالات قدم فيها الذكاء الاصطناعي معلومات مضللة وزائفة تمامًا بخصوص حالات صحية خطيرة.

في إحدى الحالات التي وُصفت بأنها "خطيرة حقًا"، نصح النظام الأفراد المصابين بسرطان البنكرياس بتجنب الأطعمة الغنية بالدهون، وهو توصية وصفها الخبراء بأنها عكس تمامًا النصيحة الغذائية اللازمة. وقدم مثال آخر معلومات زائفة بخصوص وظائف الكبد الحيوية. بعد هذه الكشوف، يبدو أن الملخصات التي يولدها الذكاء الاصطناعي قد أُزيلت من نتائج البحث المحددة تلك، مما يعالج المخاوف من أن المعلومات المضللة قد تزيد من مخاطر الوفاة لدى المرضى الذين يبحثون عن إرشادات طبية عاجلة.

تحقيق يكشف أخطاء خطيرة

كشف تحقيق نُشر في وقت سابق من هذا الشهر أن جوجل كانت تقدم معلومات مضللة وزائفة تمامًا عبر ملخصات الذكاء الاصطناعي الخاصة بها رداً على استفسارات طبية معينة. بعد نشر التقرير، يبدو أن نتائج البحث تلك قد أُزيلت من منصة البحث.

وفقًا للتقرير، تجاوزت الأخطاء مجرد عدم دقة طفيفة. في حالة وصفها الخبراء بأنها "خطيرة حقًا"، نصحت جوجل بشكل خاطئ الأشخاص المصابين بسرطان البنكرياس بتجنب الأطعمة الغنية بالدهون. ولاحظ الخبراء أن هذا التوصية كانت عكس تمامًا ما يجب أن يُنصح به للمرضى المصابين بهذه الحالة.

شكلت النصيحة الغذائية غير الصحيحة مخاطر صحية كبيرة. وأكد الخبراء أن اتباع هذا التوجيه قد يزيد من خطر وفاة المرضى بسبب المرض، مما يبرز الطبيعة الحيوية للمعلومات الطبية الدقيقة في نتائج البحث.

معلومات طبية مضللة إضافية

بالإضافة إلى نصيحة سرطان البنكرياس، كشف التحقيق عن تناقضات أخرى في استجابات الذكاء الاصطناعي الصحية. في مثال آخر وُصف بأنه "مخيف"، قدمت الشركة معلومات زائفة بخصوص وظائف الكبد الحيوية.

أظهرت هذه الحالات عدم قدرة النظام بشكل موثوق على التعامل مع الاستفسارات الطبية المعقدة. إن تقديم المعلومات الزائفة بخصوص وظائف الأعضاء الحيوية يؤكد المخاطر المحتملة للاعتماد على الذكاء الاصطناعي التوليدي في عمليات البحث المتعلقة بالصحة دون رقابة دقيقة.

الحل والإزالة

بعد نشر هذه النتائج، اتخذت جوجل إجراءً لمعالجة المشكلة. تم إزالة ملخصات الذكاء الاصطناعي التي كانت تحتوي على المعلومات الزائفة بخصوص الاستفسارات الطبية.

تشير الإزالة إلى استجابة للنقد المتعلق بسلامة ميزات الذكاء الاصطناعي عند تطبيقها على المواضيع الصحية الحساسة. من خلال إيقاف هذه الملخصات لاستفسارات محددة، تهدف الشركة إلى منع انتشار النصائح الطبية الخطيرة للمستخدمين الذين يبحثون عن مساعدة لحالات خطيرة.

الخاتمة

تشكل إزالة ملخصات جوجل للذكاء الاصطناعي لعمليات البحث الطبية المحددة تعديلاً ضرورياً في نشر الذكاء الاصطناعي في الرعاية الصحية. بينما يقدم الذكاء الاصطناعي فوائد محتملة لاسترجاع المعلومات، تظهر الأحداث الأخيرة الحاجة الماسة للدقة عند التعامل مع الحالات المهددة للحياة.

ومع استمرار تطور التكنولوجيا، يظل التوازن بين تقديم إجابات سريعة وضمان الدقة الطبية أولوية قصوى. تخدم الاستجابة لهذه الأخطاء المحددة تذكيرًا بالمسؤولية التي تتحملها شركات التكنولوجيا عند نشر المعلومات الصحية للجمهور.