لماذا يفشل الذكاء الاصطناعي حين يُدرَّب على فئة ويُستخدم على فئة أخرى؟

حين يبني نموذج ذكاء اصطناعي على بيانات فئة واحدة، غالباً البشر، فإنه يتعلم أنماطاً خاصة بتلك الفئة تحديداً، لا قواعد عامة تصلح لأي جسم. الصوت الذي يصدره قلب بشري سليم يختلف عن صوت قلب كلب أو قطة في السرعة والإيقاع وحتى التردد، لأن حجم القلب وسرعة نبضه الطبيعية تختلفان بين الأنواع. حين يُطبَّق نموذج دُرّب على قلوب بشرية على قلب حيوان مختلف تشريحياً، فإنه لا يفشل بشكل عشوائي، بل يفشل في اتجاه يعكس الفروق التي لم يتعلمها أصلاً.

هذا النوع من الفجوة لا يظهر عادة في اختبارات المختبر التي تقيس دقة النموذج على بيانات مشابهة لما تدرّب عليه. يظهر فقط حين يُستخدم الجهاز على فئة مختلفة عن فئة التدريب في العالم الحقيقي. وهنا يكمن الخطر: قد يبدو الجهاز موثوقاً تماماً بناءً على اختباراته الأصلية، بينما هو في الواقع غير مُختبر أصلاً على الفئة التي يُستخدم عليها فعلياً.

الحل ليس بالضرورة رفض هذه الأدوات، بل معرفة حدودها بدقة: ما الفئة التي دُرّب عليها النموذج، وهل الفئة المستهدفة فعلياً قريبة بما يكفي؟ أدوات كثيرة تُسوَّق بوصفها "عامة الاستخدام" رغم أنها في جوهرها مبنية على بيانات ضيقة، وهذا الفارق بين الوصف التسويقي والتدريب الفعلي هو ما يحدد أين يمكن الوثوق بالنتيجة وأين لا يمكن.