هل نثق بالذكاء الاصطناعي في علاجنا؟ مفاجآت صادمة حول “النماذج الطبية”
يواجه القطاع الصحي تحدياً متصاعداً يتمثل في طوفان المعلومات المضللة، وهو تحدٍ تفاقم بشكل ملحوظ مع دخول تقنيات الذكاء الاصطناعي ونماذج اللغة الكبيرة (LLMs) إلى غرف الفحص والتشخيص. ورغم الآمال المعلقة على هذه التقنيات، إلا أن تدريبها على بيانات غير دقيقة أو مجهولة المصدر قد يحولها إلى أداة خطرة تُصدر نصائح طبية مغلوطة، مما يهدد حياة المرضى بشكل مباشر ويضع مستقبل الرعاية الصحية الرقمية على المحك.
دراسة ضخمة تكشف المستور
وفي هذا السياق، نشرت دورية The Lancet Digital Health هذا الشهر، دراسة معيارية شاملة أجراها الباحث “محمود عمر” وزملاؤه، لاختبار مدى تأثر نماذج الذكاء الاصطناعي بالمعلومات الطبية المضللة التي يتم دمجها في الأوامر (Prompts) المدخلة من قبل المستخدمين.
شملت الدراسة تقييم 20 نموذجاً لغوياً، باستخدام نحو 3.4 مليون أمر نصي مستمد من ملاحظات الخروج من المستشفيات، وسيناريوهات سريرية محاكاة، ومنشورات من وسائل التواصل الاجتماعي، احتوت جميعها على معلومات طبية ملفقة.
مفاجأة: “GPT-4o” يتفوق على الأطباء الآليين
أظهرت نتائج الدراسة مفارقة مثيرة للاهتمام؛ إذ تبين أن النموذج العام الشهير (GPT-4o) كان الأقل تأثراً بالمعلومات المضللة والأكثر دقة في اكتشاف المغالطات المنطقية. وعلى النقيض تماماً، كان أداء النماذج التي تم تدريبها وتخصيصها للأغراض الطبية أسوأ بشكل مستمر مقارنة بالنماذج العامة.
وأوضحت الدراسة أن نماذج الذكاء الاصطناعي تكون أكثر عرضة لتصديق المعلومات الخاطئة عندما تُصاغ بـ “نبرة موثوقة”، مما يسلط الضوء على هشاشة هذه الأدوات أمام التلاعب بالنصوص. ورغم أن الدراسة اقتصرت على النصوص ولم تشمل البيانات متعددة الوسائط (كالصور والأشعة)، إلا أنها تعد جرس إنذار حقيقي حول الثقة العمياء بهذه الأدوات.
اقرأ أيضا: كيف تستخدم ChatGPT Health لطرح الأسئلة الطبية.. دون أن تحل محل الطبيب؟
كيف تحمي نفسك وتستخدم هذه الأدوات بذكاء؟
بما أن المرضى والأطباء يستخدمون هذه الأدوات بالفعل (مثل ChatGPT)، فإن المسؤولية مشتركة لتقليل المخاطر. إليك خطوات عملية للتعامل مع الذكاء الاصطناعي في السياق الطبي:
1. الإشراف البشري الإلزامي: لا تعتمد أبداً على مخرجات الذكاء الاصطناعي كقرار نهائي؛ يجب أن يكون الطبيب البشري هو الفلتر الأخير لأي معلومة.
2. التحقق من “مؤشر الشك”: يجب على المطورين تصميم نماذج تظهر نسبة “عدم اليقين” بجوار الإجابات، وتضع علامة تحذير على المخرجات المستندة إلى بيانات متضاربة.
3. التدريب على كشف المغالطات: يتوجب على الشركات المطورة تدريب النماذج الطبية خصيصاً على كشف الثغرات المنطقية قبل طرحها للاستخدام.
4. صياغة الأوامر بدقة: كمستخدم، يجب أن تتعلم كيفية كتابة “Prompts” واضحة ومحددة، والتحقق بشكل مستقل من أي نصيحة طبية يقدمها النموذج.
اقرأ أيضا: كيف تستشير الذكاء الاصطناعي دون أن تُخاطر بصحتك؟
مستقبل الرعاية الصحية: بين الحذر والابتكار
يشير الخبراء إلى أن الثقة في الذكاء الاصطناعي ستتآكل إذا استمرت هذه النماذج في تقديم معلومات مضللة، كما حدث سابقاً مع نسخ من ChatGPT قدمت معلومات مغلوطة حول اللقاحات.
لذا، يكمن الحل المستقبلي في الشفافية؛ حيث يجب أن تكون آلية اتخاذ القرار داخل هذه النماذج قابلة للتفسير (Explainability)، مع ضرورة إجراء اختبارات أخلاقية صارمة باستخدام “التوائم الرقمية” (Digital Twins) لقياس تأثير المعلومات المضللة على صحة المرضى قبل وقوع الضرر