Google توقف عن عرض ملخصات صحة الذكاء الاصطناعي بعد الكشف عن أخطاء

ملخص سريع

أوقفت Google عرض ملخصات صحة ميزتي الذكاء الاصطناعي بعد أن كشف تحقيق أن الميزة قدمت معلومات خطيرة ومضللة للمستخدمين. جاءت عمليات الإيقاف بعد أن حذر الخبراء من نتائج استعلامات اختبارات كبد الدم باعتبارها ضارة محتملة، مشيرين إلى أن الذكاء الاصطناعي قدم بيانات خام دون سياق ضروري أو تعديلات ديموغرافية.

كما تم الكشف عن خطأ حرج فيما يتعلق بنصائح سرطان البنكرياس، حيث اقترح الذكاء الاصطناعي تجنب الأطعمة الدسمة، مما يتعارض مع التوجيه الطبي القياسي للحفاظ على الوزن. رغم هذه النتائج، أوقفت Google فقط ملخصات استعلامات كبد الدم المحددة، تاركة إجابات ضارة أخرى متاحة. وأبرز التحقيق أن تعريف الذكاء الاصطناعي لكلمة "طبيعي" يختلف غالباً عن المعايير الطبية الفعلية، مما قد يسبب لمرضى الحالات الخطيرة الاعتقاد الخاطئ بأنهم أصحاء ويتركون الرعاية اللازمة.

توقف Google عن عرض ملخصات صحة الذكاء الاصطناعي بعد التحقيق

أوقفت Google عرض بعض ملخصات صحة ميزتي الذكاء الاصطناعي بعد أن كشف تحقيق أن الأشخاص كانوا معرضين للخطر بسبب معلومات مضللة وغير صحيحة. جاءت عمليات الإيقاف بعد تحقيق صحفي كشف أن ميزة الذكاء الاصطناعي التوليدي قدمت معلومات صحية غير دقيقة في أعلى نتائج البحث.

وأظهر التحقيق أن الذكاء الاصطناعي قد يقود مرضى الحالات الخطيرة بشكل محتمل إلى استنتاج خاطئ بأنهم في صحة جيدة. عطلت Google استعلامات محددة، مثل "ما هو النطاق الطبيعي لاختبارات كبد الدم"، بعد أن حذر الخبراء من النتائج باعتبارها خطيرة.

رغم هذه النتائج، أوقفت Google فقط ملخصات استعلامات كبد الدم. ظلت إجابات ضارة أخرى متاحة للمستخدمين الذين يبحثون عن معلومات صحية.

أخطاء حرج في معلومات اختبارات الكبد

كشف التحقيق أن البحث عن معايير اختبارات الكبد يولد جداول بيانات خام تدرج إنزيمات محددة مثل ALT وAST والقلوية الفوسفاتاز. تفتقر هذه الجداول إلى السياق الضروري الذي يحتاجه المرضى لتفسير النتائج بشكل صحيح.

كما فشلت ميزة الذكاء الاصطناعي في تعديل هذه الأرقام وفقاً للخصائص الديموغرافية للمريض مثل العمر والجنس والعرق. حذر الخبراء من أن تعريف نموذج الذكاء الاصطناعي لكلمة "طبيعي" غالباً ما يختلف عن المعايير الطبية الفعلية، مما قد يسبب لمرضى أمراض الكبد الخطيرة الاعتقاد الخاطئ بأنهم أصحاء ويتركون الرعاية اللازمة.

نصائح سرطان البنكرياس تتعارض مع التوجيه الطبي

سلط التحقيق الضوء على خطأ حرج فيما يتعلق بمعلومات سرطان البنكرياس. اقترح الذكاء الاصطناعي على المرضى تجنب الأطعمة الدسمة، وهي توصية تتعارض مع التوجيه الطبي القياسي.

قد يعرض هذا النصيحة المتعارضة صحة المرضى للخطر، حيث إن الحفاظ على الوزن غالباً ما يكون حاسماً لمرضى السرطان. وجد التحقيق هذا الخطأ المحدد من بين عدة حالات قدم فيها الذكاء الاصطناعي معلومات صحية تتعارض مع البروتوكولات الطبية المعروفة.

مخاوف مستمرة حول معلومات صحة الذكاء الاصطناعي

كشف التحقيق عن فجوات كبيرة في كيفية تعامل ميزات الذكاء الاصطناعي التوليدي مع المعلومات الحساسة للصحة. بينما استجابت Google لشكاوى محددة حول استعلامات اختبارات الكبد، تظل المشكلة الأوسع نطاقاً للنصائح الصحية الضارة مبعثرة.

يستمر الخبراء في التحذير من أنه دون سياق مناسب وتعديلات ديموغرافية، قد تؤدي ملخصات الصحة التي ينشئها الذكاء الاصطناعي إلى سوء فهم خطير. تثير الحادثة أسئلة حول موثوقية أنظمة الذكاء الاصطناعي في تقديم معلومات طبية للمستخدمين الذين قد يفتقرون الخبرة للكشف عن الأخطاء.