لماذا يفشل الذكاء الاصطناعي حين يُدرَّب على فئة ويُستخدم على فئة أخرى؟

الجواب المختصر: يتعلم الذكاء الاصطناعي علاقات إحصائية من بيئة بيانات محددة. فإذا تغير الأشخاص أو الحيوانات أو الأجهزة أو المستشفيات أو انتشار المرض أو التسميات أو سير العمل، قد لا تبقى تلك العلاقات صحيحة. ويمكن أن يخفض انزياح توزيع البيانات الدقة، ويشوّه الثقة، ويركز الأخطاء في الفئة الأقل تمثيلاً أثناء التطوير.

أداء التدريب مشروط ببيئته

لا يتعلم النموذج قاعدة كونية لمجرد أن درجته مرتفعة. إنه يتعلم ربط المدخلات بالتسميات ضمن الظروف الموجودة في بيانات التطوير. وقد يعتمد على علم أحياء حقيقي، لكنه قد يستفيد أيضاً من ضجيج جهاز أو عادات سريرية أو انتشار مرض أو طريقة تجهيز صورة أو أسلوب كتابة أو اختصار آخر.

حين تتغير الظروف، قد تبدو المدخلات صالحة للبرنامج رغم أن معناها تبدل. وهنا تكمن خطورة الانتقال: قد يظل النموذج واثقاً بينما ترتفع أخطاؤه.

ثلاثة أشكال رئيسية للانزياح

قد تجتمع الأنواع الثلاثة. لذلك لا يمثل «الخروج عن التوزيع» حالة واحدة بنعم أو لا، بل عائلة من أوجه عدم التطابق.

لماذا تؤثر الفروق السكانية؟

يغير العمر والتشريح والوظائف الحيوية والجينات والأمراض المصاحبة واللغة والبيئة والوصول إلى الرعاية شكل الإشارة والتسمية. وقد لا ينتقل نمط نبض تعلمه النظام من البالغين إلى الرضع، أو أداء نموذج صور جلدية إلى درجات تصبغ لم تمثل جيداً، أو مصنف أصوات قلب بشرية إلى أنواع حيوانية ذات معدلات نبض وتشريح وأمراض مختلفة.

ويؤثر الانتشار في القيمة التنبؤية. حتى لو بقيت الحساسية والنوعية ثابتتين، تقل احتمالية أن يعني التنبيه وجود مرض حين تكون الحالة نادرة. وقد تنتج عتبة ضُبطت في مستشفى إحالة متخصص إيجابيات كاذبة كثيرة في الفحص الروتيني.

اختصارات تنكسر خارج الموقع الأصلي

يكافئ التعلم الآلي أي سمة تتنبأ بالتسمية، لا السمة السببية التي قصدها الطبيب فقط. فقد يتعلم النموذج نصاً خاصاً بمستشفى أو حواف جهاز تصوير أو علامة جهاز محمول أو ضجيج غرفة أو نمط الفحوص التي يطلبها الأطباء. وتبدو هذه العلاقات قوية في تقسيم عشوائي لأن البيئة نفسها تظهر في التدريب والاختبار.

أما الاختبار في مستشفى مستقل وفترة زمنية أحدث فيسأل سؤالاً أصعب: هل يصمد الأداء أمام تغير المرضى والمعدات والكوادر والممارسة؟

خطوات اختبار قابلية الانتقال

1. تعريف فئة الاستخدام المقصود: الأعمار والأنواع الحيوانية وموقع الرعاية والجغرافيا والأجهزة واللغات والاستبعادات.
2. مقارنة البيانات: فحص انتشار المرض والقيم المفقودة ونطاقات القياس وبروتوكولات الالتقاط وتمثيل الفئات.
3. إجراء تحقق خارجي: استخدام بيانات لم تمس من مواقع أخرى وفترة لاحقة، ويفضل أن تُجمع باستقلال.
4. نشر نتائج الفئات: قد يخفي المتوسط العام حساسية أو معايرة ضعيفة لدى مجموعة أصغر.
5. إعادة المعايرة عند ملاءمتها: قد تصلح الاحتمالات أو العتبات اختلاف الانتشار، لكنها لا تصلح نموذجاً تعلم السمات الخطأ.
6. التشغيل الاستباقي والمراقبة: قياس أثر سير العمل والانزياح والإنذارات الكاذبة والتجاوزات والأضرار والنتائج.

الدقة وحدها لا تكفي

يعتمد التوازن المقبول على العواقب. ففقدان حالة خطرة لا يعادل إحالة غير ضرورية. ويجب أن تعكس العتبة دور الأداة الفعلي وإمكان إجراء اختبار تأكيدي.

مثال واضح على فشل الانتقال

قُيّمت سماعة رقمية مدعومة بالذكاء الاصطناعي، طُورت أساساً من أصوات قلوب بشرية، لدى كلاب وقطط في مستشفى بيطري تعليمي. أخفقت في التقاط معظم نفخات القطط، وصنفت كلاباً سليمة خطأ بأنها تعاني اضطراب النظم، فيما تفوق عليها الأطباء ذوو الخبرة. أنتج الجهاز تسجيلاً، لكن مصنفه المتعلم لم يتحول تلقائياً إلى خبير بيطري. اقرأ: سماعة ذكاء اصطناعي أخطأت في كشف نفخات قلب القطط.

يجمع المثال فرق المجال وفرق الانتشار. تختلف الأنواع في معدل القلب والتشريح وأنماط الصوت والأمراض الشائعة، ويغير موقع الرعاية مزيج الحالات. قد يساعد التدريب على بيانات بيطرية ممثلة، لكنه يحتاج بعد ذلك إلى تحقق مستقل لكل نوع واستخدام يدعيه النظام.

هل يحل التكيف المشكلة؟

قد تحسن البيانات الأكثر تمثيلاً والتعلم بالنقل وتكييف المجال وإعادة المعايرة وتصميم السمات المتينة قابلية النقل. لكن التكيف ينشئ نموذجاً جديداً يحتاج إلى تقييم جديد. وقد يؤدي الضبط على عينة محلية صغيرة إلى فرط الملاءمة أو تراجع الأداء في مواقع أخرى.

ويحتاج النظام الآمن إلى إدارة عدم اليقين: رفض المدخلات غير الصالحة، والتنبيه إلى الحالات الخارجة عن نطاقه، والحفاظ على بديل بشري، وتسجيل الإصدار والجهاز حتى يمكن التحقيق في الأعطال.

القاعدة العملية

تحقق من النموذج في المكان والوقت والفئة التي سيُستخدم فيها. وإذا تغير أي منها، فاعتبر الأداء سؤالاً مفتوحاً. وينبغي أن يملك النشر حدوداً واضحة واختباراً محلياً وتحليلاً للفئات ومراقبة للانزياح وإجراء لتعليق النظام أو الرجوع عنه حين لا يعود الدليل كافياً.