كيف يصنف قانون الذكاء الاصطناعي الأوروبي الأنظمة بحسب المخاطر؟

لا يضع قانون الذكاء الاصطناعي الأوروبي جميع الأنظمة في سلة واحدة. ينظر أولاً إلى وظيفة النظام، والبيئة التي يعمل فيها، وحجم الضرر المحتمل، ثم يحدد الواجبات التي تقع على من يطوره أو يقدمه أو يستخدمه.

ما هو التصنيف القائم على المخاطر؟

الفكرة هي أن التقنية لا تصبح خطرة لمجرد أنها تستخدم الذكاء الاصطناعي. فلتر الرسائل المزعجة ونظام فرز المتقدمين إلى وظيفة قد يعتمدان على تعلم الآلة، لكن النظام الثاني يستطيع التأثير في فرصة الإنسان للحصول على عمل، ولذلك يحتاج إلى رقابة أقوى.

تقسم المفوضية الأوروبية الأنظمة إلى أربع درجات رئيسية: مخاطر غير مقبولة، ومخاطر عالية، ومخاطر محدودة، ومخاطر ضئيلة أو معدومة. وتوجد قواعد منفصلة للنماذج العامة لأنها قد تدخل في عدد كبير من المنتجات والخدمات.

ما هي الاستخدامات ذات المخاطر غير المقبولة؟

يحظر القانون ممارسات محددة بدلاً من السماح بها مقابل شروط إضافية. تشمل الأمثلة بعض أساليب التلاعب، وصوراً معينة من التقييم الاجتماعي، واستخدامات محددة للقياسات الحيوية أو استنتاج المشاعر.

لكن الحظر لا يشمل كل تقنية تحمل الاسم نفسه في جميع الظروف. فالنص القانوني يحدد الغرض والسياق والاستثناءات، ولذلك لا يمكن التعامل مع كل استخدام للتعرف على الوجه، مثلاً، باعتباره حالة قانونية واحدة.

متى يصبح النظام عالي المخاطر؟

قد يصنف النظام ضمن المخاطر العالية إذا كان جزءاً مؤثراً في سلامة منتج منظم، أو إذا استُخدم في مجال حساس حدده القانون. تشمل هذه المجالات استخدامات معينة في البنية الأساسية والتعليم والعمل والخدمات الأساسية وإنفاذ القانون والهجرة والقضاء.

قد يلتزم المزود بإدارة المخاطر، وضبط جودة البيانات، وتوثيق النظام، وتسجيل عملياته، وتوفير رقابة بشرية، واختبار الدقة والمتانة والأمن السيبراني. كما تتحمل الجهة المستخدمة واجبات مثل متابعة الأداء والالتزام بتعليمات التشغيل.

السياق هو الفاصل. أداة تساعد موظف الموارد البشرية على تنسيق نص إعلان وظيفة لا تساوي نظاماً يرتب المرشحين ويؤثر فعلياً في اختيار من يحصل على مقابلة.

ما هي الأنظمة ذات المخاطر المحدودة؟

يسمح القانون باستخدام بعض الأنظمة مع اشتراط الشفافية. قد يكون من الضروري إبلاغ الشخص بأنه يتحدث إلى نظام آلي، أو إضافة علامة تقنية إلى نص أو صورة أو صوت مولد، أو وضع تنبيه ظاهر على التزييف العميق وبعض المواد المرتبطة بالمصلحة العامة.

لا تعني الشفافية أن المحتوى صحيح. هي تخبر المستخدم بطريقة إنتاجه، وتمنحه معلومة تساعده على تقييمه، لكنها لا تستبدل التحقق من الوقائع أو معرفة السياق.

ما هي القواعد الخاصة بالنماذج العامة؟

النموذج العام يستطيع أداء مهام مختلفة وقد يصبح أساساً لخدمات كثيرة. لذلك يحتاج مزوده إلى توثيق قدراته وحدوده، ومراعاة حقوق النشر، وتقديم معلومات تساعد المطورين الذين يبنون منتجات فوقه. وإذا كان النموذج قادراً على إحداث مخاطر نظامية واسعة، تضاف متطلبات للتقييم والأمن والإبلاغ وتقليل الضرر.

وقد يختلف تصنيف النموذج عن التطبيق النهائي. يمكن للنموذج نفسه أن يشغل مساعد كتابة منخفض المخاطر، وأن يدخل في خدمة أخرى تؤثر في قرار حساس يخضع لقواعد أشد.

ما هي حدود هذا التصنيف؟

لا تلغي الفئات الحاجة إلى التفسير. قد تتغير وظيفة النظام بعد إطلاقه، وقد تعدله شركة أخرى، وقد تتوزع المسؤولية بين مزود النموذج ومطور التطبيق والجهة التي تستخدمه. كما أن بعض المعايير الفنية وأساليب التنفيذ ما زالت تتطور.

السؤال الأدق ليس: «هل هذا ذكاء اصطناعي؟». السؤال هو: ما القرار أو المحتوى الذي ينتجه، ومن قد يتضرر، وما مقدار السيطرة البشرية، ومن يتحمل المسؤولية في كل مرحلة؟