كيف يصنف قانون الذكاء الاصطناعي الأوروبي الأنظمة بحسب المخاطر؟

يصنف قانون الذكاء الاصطناعي الأوروبي الأنظمة أساساً وفق ما تفعله وسياق استخدامها والضرر الممكن، لا وفق مدى تقدم النموذج وحده. يحظر القانون ممارسات محددة، ويفرض ضوابط واسعة على الأنظمة عالية المخاطر، ويلزم بالشفافية في بعض التفاعلات والمحتوى الاصطناعي، وينشئ نظاماً مستقلاً لنماذج الأغراض العامة، ويترك معظم الاستخدامات منخفضة المخاطر من دون متطلبات إضافية خاصة بالقانون.

ينظم القانون الأدوار والاستخدامات

قد يقع النموذج نفسه في أوضاع قانونية مختلفة. يطور المزود النظام أو يطرحه في السوق، ويستخدمه المشغل تحت سلطته، وقد تقع واجبات منفصلة على المستورد والموزع ومصنع المنتج والممثل المعتمد. ويمكن أن تشمل القواعد شركة خارج الاتحاد إذا عرضت نظاماً في سوقه أو استُخدمت داخله مخرجات منتجة خارجه وفق النطاق الإقليمي للقانون.

يبدأ التصنيف بالغرض المقصود وسوء الاستخدام المتوقع بصورة معقولة والسياق والأشخاص المتأثرين ودور الجهة. ولا تحسم تسمية المنتج «مساعداً» أو «تجريبياً» أو «طياراً مساعداً» فئته إذا كان يؤدي وظيفة منظمة.

خريطة عملية لبنية المخاطر

ليست هذه درجات سلم يشغل المنتج واحدة منها فقط. قد يشغل نموذج عام نظاماً عالياً للمخاطر، وقد يحمل النظام العالي واجب شفافية أيضاً، وتظل الممارسة المحظورة ممنوعة حتى لو كانت التقنية دقيقة.

ما الممارسات المحظورة؟

تستهدف المادة 5 استخدامات رآها المشرع منافية للحقوق الأساسية وقيم الاتحاد. تحتوي الاختبارات القانونية شروطاً واستثناءات، لذلك قد تضلل القوائم المختصرة. وتشمل المجالات العامة:

• التلاعب أو الخداع الضار الذي يشوه السلوك مادياً؛
• استغلال ضعف مرتبط بالعمر أو الإعاقة أو ظرف اجتماعي واقتصادي إذا سبب ضرراً مهماً أو رجحه؛
• بعض أشكال التقييم الاجتماعي العام أو الخاص المؤدي إلى معاملة غير مبررة أو غير متناسبة؛
• تقدير خطر ارتكاب الفرد جريمة اعتماداً على التنميط أو السمات الشخصية فقط، خارج المساعدة المسموحة لتقييم بشري قائم على وقائع؛
• جمع صور الوجوه بلا استهداف لبناء قواعد تعرف أو توسيعها؛
• استنتاج المشاعر في العمل والمدرسة، عدا استخدامات طبية أو سلامة محددة؛
• تصنيف حيوي يستنتج صفات شديدة الحساسية؛
• التعرف الحيوي البعيد اللحظي للشرطة في الأماكن العامة، عدا حالات ضيقة بضمانات.

لا تعني كلمة «محظور» منع كل تقنية في المجال المحيط. يختلف وضع التعرف على الوجه أو تحليل المشاعر أو التقييم حسب الغرض والمكان والبيانات والجهة والاستثناء.

طريقان إلى فئة المخاطر العالية

الطريق الأول: الذكاء الاصطناعي داخل منتج منظم

يُعد النظام عالي المخاطر عبر مسار المنتج إذا كان مكون سلامة أو منتجاً مشمولاً بتشريع أوروبي محدد ويحتاج المنتج إلى تقييم مطابقة من طرف ثالث. قد يشمل ذلك أجهزة طبية وآلات ومركبات ومصاعد وألعاباً وطيراناً ومعدات حماية. لا يتأهل كل برنامج داخل المنتج، إذ تهم وظيفة السلامة وشروط المطابقة.

الطريق الثاني: استخدام حساس في الملحق الثالث

يشمل المسار الثاني تطبيقات محددة تستطيع قراراتها التأثير بقوة في الحقوق أو الوصول:

• التعرف الحيوي والتصنيف واستنتاج المشاعر في حالات معرفة؛
• إدارة بنية أساسية حساسة للسلامة؛
• القبول والتقييم والتوزيع والمراقبة في التعليم؛
• التوظيف والاختيار وتوزيع المهام والتقييم وإنهاء العمل؛
• أهلية الخدمات العامة والخاصة الأساسية، ومنها بعض الائتمان والتأمين؛
• وظائف التقييم والأدلة لدى جهات إنفاذ القانون؛
• الهجرة واللجوء والحدود والتأشيرات وتقدير المخاطر الأمنية؛
• إدارة العدالة والتأثير في العمليات الديمقراطية.

يتضمن الملحق قيداً: قد لا يُصنف استخدام مدرج عالياً إذا لم يشكل خطراً مهماً على الصحة أو السلامة أو الحقوق وأدى مهمة إجرائية أو تحضيرية ضيقة. ويبقى تنميط الأشخاص في سياق الملحق عالي المخاطر. يجب على المزود توثيق تحليله، وللسلطة مراجعته.

ما التزامات النظام عالي المخاطر؟

1. إدارة المخاطر: تحديد المخاطر المتوقعة وتقييمها وخفضها واختبارها ومراجعتها طوال دورة الحياة.
2. حوكمة البيانات: تحقيق متطلبات الجودة والتمثيل ذات الصلة لبيانات التدريب والتحقق والاختبار.
3. التوثيق التقني: شرح الغرض والتصميم والاختبارات والحدود والامتثال.
4. التسجيل الآلي: الاحتفاظ بسجلات تدعم التتبع والتحقيق.
5. التعليمات والوضوح: منح المشغل معلومات كافية للتشغيل والتفسير.
6. الإشراف البشري: تمكين شخص مختص من فهم الحدود وكشف الانحياز للأتمتة والتدخل أو الإيقاف.
7. الدقة والمتانة والأمن: الحفاظ على أداء مناسب ومقاومة الخطأ والتلاعب والهجوم.
8. المطابقة والتسجيل: إكمال التقييم والإقرارات والعلامات وقاعدة البيانات قبل السوق.
9. المراقبة اللاحقة: جمع معلومات الأداء والإبلاغ عن الحوادث الجسيمة بعد النشر.

هذه التزامات مستمرة وليست اختبار عدالة عند الإطلاق. لا تنتهي المراقبة حين تتغير البيانات أو المستخدمون أو البيئة أو أنماط الفشل.

الشفافية ليست مرادفاً للمخاطر العالية

تعالج المادة 50 مواقف يحتاج فيها الإنسان إلى فهم دور الذكاء الاصطناعي. يصمم مزود النظام التفاعلي الخدمة عادة كي يعرف الشخص أنه يتعامل مع آلة ما لم يكن ذلك واضحاً. ويدعم مزود التوليد التعرف الآلي إلى المخرجات الاصطناعية أو المعدلة، مع مراعاة الإمكان التقني والاستثناءات.

تقع على المشغل واجبات أخرى، منها الإفصاح عن استخدام التعرف على المشاعر أو التصنيف الحيوي، ووضع تنبيه على التزييف العميق وغيره، وتحديد بعض النصوص المولدة لإبلاغ الجمهور بقضية عامة. وقد تؤثر المراجعة التحريرية وتحمل المسؤولية في واجب الإفصاح عن النص.

يحل الإشعار الظاهر وإشارة المنشأ الخفية مشكلتين مختلفتين. لا يضمن أي منهما الحقيقة. قد يضلل محتوى أصلي بسياقه، وقد يكون المحتوى الاصطناعي الموسوم صحيحاً. كما قد يزيل القص أو تصوير الشاشة أو إعادة الترميز العلامة التقنية.

أين يقع نموذج الأغراض العامة؟

نموذج الذكاء الاصطناعي للأغراض العامة (GPAI) مدرب على نطاق واسع، ويظهر عمومية مهمة، ويؤدي مهاماً متباينة أو يدعم أنظمة لاحقة كثيرة. لا يصبح تلقائياً «عالي المخاطر» بمعنى نظام فرز المتقدمين إلى وظيفة، بل يخضع لواجبات مزود مستقلة لأن المطور اللاحق يحتاج إلى معلومات لبناء تطبيق ممتثل.

يلتزم المزود عادة بالتوثيق وتقديم المعلومات للمطور اللاحق وسياسة حقوق النشر وملخص محتوى التدريب. وقد يحصل الإصدار المفتوح على إعفاءات محدودة من بعض الواجبات عند تحقق الشروط، لكن الانفتاح لا يلغي التزامات المخاطر النظامية.

ما النموذج ذو المخاطر النظامية؟

قد يصنف نموذج عام ذا مخاطر نظامية إذا امتلك قدرات عالية التأثير تقيم بأدوات تقنية مناسبة. يضع القانون قرينة قابلة للدحض مرتبطة بتدريب يتجاوز (10^{25}) عملية فاصلة عائمة، كما تستطيع المفوضية تعيين النموذج بناء على معايير القدرة.

يتحمل مزوده واجبات إضافية: تقييمات معيارية واختبارات خصومية، وتقدير المخاطر النظامية وخفضها، وتتبع الحوادث الجسيمة والإبلاغ عنها، والحفاظ على أمن مناسب. العتبة مدخل إلى التدقيق وليست دليلاً على أن حجم الحوسبة يقيس كل خطر.

من المسؤول في سلسلة التوريد؟

يقدم مزود النموذج القدرة والمعلومات، وقد يضبط مطور لاحق النموذج أو يحيطه بخدمة أو يدمجه في نظام. ويقرر المشغل طريقة استخدامه مع الناس. يمكن أن تنتقل مسؤولية المزود عندما يطرح طرف النظام باسمه أو يجري تعديلاً جوهرياً أو يحول الغرض إلى استخدام عالي المخاطر.

توزع العقود المهام العملية لكنها لا تمحو الواجب النظامي. تحتاج المؤسسة إلى خريطة تربط إصدار النموذج وغرض النظام والبيانات والمستخدمين والقرارات ومنطقة النشر والدور القانوني المسؤول.

كيف يُجرى التصنيف؟

1. تأكد من أن البرنامج يطابق تعريف نظام الذكاء الاصطناعي.
2. حدد كل غرض مقصود وكل شخص متأثر.
3. افحص محظورات المادة 5 أولاً.
4. اختبر مسار سلامة المنتج في المادة 6(1) والملحق الأول.
5. اختبر مسار الاستخدام الحساس في المادة 6(2) والملحق الثالث.
6. وثق أي استثناء وهل يستخدم النظام تنميط الأشخاص.
7. افحص واجبات شفافية المادة 50 بصورة مستقلة.
8. حدد نموذج الأغراض العامة وأدوار سلسلة التوريد.
9. راجع النطاق الإقليمي والمواعيد والقوانين الأوروبية والوطنية الأخرى.
10. كرر التحليل بعد تعديل جوهري أو تغيير الغرض.

جدول التطبيق جزء من الحكم

دخل القانون حيز النفاذ في 1 أغسطس 2024 ويُطبق على مراحل. بدأت المحظورات وواجب الثقافة بالذكاء الاصطناعي في فبراير 2025، وبدأت قواعد النماذج العامة في أغسطس 2025، ثم صلاحيات الإنفاذ وواجبات الشفافية في أغسطس 2026. وتذكر صفحة المفوضية الحالية أن كثيراً من قواعد الملحق الثالث عالية المخاطر تطبق من 2 ديسمبر 2027، وأن الذكاء الاصطناعي المدمج في منتجات منظمة محددة يمتد إلى 2 أغسطس 2028 وفق الجدول المبسط المتفق عليه.

يشرح تقرير نيو تقنية عن محطة الإنفاذ في 2026 الانتقال العملي. قد تتغير المواعيد والتفاصيل بالتشريع والمعايير والإرشادات، لذلك يجب الرجوع إلى النص الرسمي الحالي لا إلى عرض امتثال قديم.

النموذج الذهني

تخيل القانون مجموعة مرشحات لا درجة مخاطر واحدة. اسأل أولاً هل الممارسة محظورة، ثم هل يدخل النظام فئة المخاطر العالية عبر منتج منظم أو استخدام حساس. افحص الشفافية بصورة مستقلة، ثم حدد نموذج الأغراض العامة ودور كل طرف. تعتمد الإجابة على الغرض والنشر، ولذلك يستطيع النموذج نفسه تشغيل أداة كتابة منخفضة المخاطر، أو محادثة واضحة الهوية، أو نظام توظيف أو طب منظم بشدة.