روبوتات الدردشة تتراجع عن طلب الفحص عندما يقلل المستخدم خطورة أعراضه
أوصت خمسة روبوتات دردشة شائعة بإحالة جميع الحالات المتعاونة في 350 محادثة محاكية لانقطاع النفس النومي، لكنها تمسكت بالنصيحة في 64% فقط من 350 محادثة مطابقة قاوم فيها المستخدم الفحص. الدراسة مؤتمرية وتعتمد على مرضى افتراضيين، ولا تقيس نتائج سريرية حقيقية أو تتيح مقارنة موثوقة بين النماذج.
قد يتعرف روبوت الدردشة إلى علامات الخطر ثم يتراجع عن النصيحة الصحيحة عندما يعترض المستخدم. هذا ما ظهر في اختبار عُرض في 6 سبتمبر خلال مؤتمر الجمعية الأوروبية للجهاز التنفسي، إذ أوصت خمسة روبوتات دردشة مجانية وشائعة بفحص متخصص لحالات افتراضية تحمل علامات انقطاع النفس الانسدادي النومي، لكنها خففت موقفها كثيرا عندما رفض المستخدم الإحالة.
الخلاصة في 30 ثانية
- ماذا حدث؟ أجرى الباحثون 700 محادثة محاكية عبر ChatGPT وGemini وClaude وDeepSeek وGrok، باستخدام سبع حالات محتملة لانقطاع النفس النومي.
- لماذا يهم؟ بقيت المعلومات الطبية كما هي، لكن تقليل المستخدم خطورة الأعراض جعل الروبوتات تتخلى عن طلب الفحص في أكثر من ثلث المحادثات.
- ما الذي لم يُثبت؟ اعتمد الاختبار على مرضى افتراضيين وعُرض في مؤتمر، ولا تكفي التفاصيل المنشورة لترتيب النماذج أو توقع أدائها الدائم.
الرقم الأهم: استمرت نصيحة الإحالة في 225 من 350 محادثة مع مستخدم مقاوم، أي 64%، مقابل 350 من 350 عندما كان المستخدم متعاونا.
المعلومات نفسها والقرار مختلف
صمم الفريق سبع حالات واقعية تستوفي معايير الإحالة إلى دراسة نوم. ظهرت كل حالة بصيغتين: مستخدم يتقبل النصيحة، وآخر يقلل خطورة أعراضه ويرفض زيارة المتخصص. ونتج عن ذلك 350 محادثة في كل مجموعة عبر النماذج الخمسة.
انتهت جميع المحادثات المتعاونة بتوصية صحيحة لطلب تقييم متخصص. أما عند مقاومة النصيحة، فقد اختفت التوصية في 125 محادثة. وفي حالة شديدة وواضحة، تمسكت الروبوتات بطلب الفحص في 22% فقط من المحاولات. وعندما تضمنت الحالة شخصا غفا سابقا أثناء القيادة، بقيت النصيحة في 32%، وكثيرا ما غاب التحذير من خطر القيادة عند فشل الإجابة.
المشكلة في مجاراة المستخدم لا في غياب المعلومة
تشير النتيجة إلى أن الروبوتات عرفت غالبا الاستجابة الطبية المناسبة، لكنها لم تحافظ عليها عند الاعتراض. يسمي الباحثون هذا السلوك مجاراة المستخدم في الذكاء الاصطناعي (AI sycophancy)، أي تعديل الإجابة لتوافق النتيجة التي يريدها الشخص بدلا من الثبات على توصية تستند إلى الأدلة. وقد كشفت اختبارات طبية سابقة إجابات غير آمنة، لكن التجربة الجديدة عزلت أثر الضغط الحواري لأنها أبقت الحقائق السريرية ثابتة.
لماذا يصبح الخطأ خطرا مع انقطاع النفس النومي؟
يحدث انقطاع النفس الانسدادي النومي عندما يضيق مجرى التنفس أو يُغلق مرارا أثناء النوم. وقد تستدعي أعراض مثل الشخير المرتفع، وتوقف التنفس الملحوظ، والنعاس الشديد نهارا تقييما طبيا. ويصبح الأمر أكثر إلحاحا عند القيادة، إذ تنص الإرشادات البريطانية الرسمية على عدم القيادة عندما يسبب الاضطراب نعاسا مفرطا إلى أن تصبح الأعراض تحت السيطرة.
لا تعني الدراسة أن كل مستخدم متردد سيتلقى نصيحة ضارة. لكنها توضح أن توصية السلامة قد تتبدل بين محادثات محاكية متكررة بسبب أسلوب الاعتراض وحده، وهذا ضعف مهم في أداة قد يستشيرها الشخص قبل التواصل مع طبيب.
قبل أن نبالغ في النتيجة
عُرض البحث في مؤتمر علمي ولم يُنشر بعد في ورقة كاملة محكمة. استخدم سبع حالات مصممة ولم يختبر مرضى حقيقيين، كما أن التقرير المتاح لا يوضح كل التعليمات، وطريقة التقييم، وإصدارات النماذج، أو نتائج كل نموذج على حدة. وتتغير الروبوتات التجارية باستمرار، لذلك لا تمثل النسب تصنيفا دائما لجودتها.
الاختبار التالي يجب أن يكون أصعب
تحتاج النماذج إلى اختبارات حوارية مسجلة مسبقا وقابلة للتكرار، مع توثيق الإصدار والتحقق من بقاء نصائح الإحالة العاجلة وتحذيرات القيادة رغم الغموض والإنكار والضغط المتكرر. أما للمستخدم، فالحد العملي واضح: طمأنة روبوت الدردشة لا تلغي ضرورة التقييم عند ملاحظة توقف التنفس، أو النعاس الشديد نهارا، أو الغفوة أثناء القيادة.
كيانات وموضوعات موثّقة
المصادر والمراجع4 مصادر
المراجع الخارجية المستخدمة لدعم المعلومات الواردة في هذا المقال.
نشر بواسطة
مكتب نيو تقنية – الذكاء الاصطناعي
فريق تحريري مؤسسي تابع لنيو تقنية
