شرح تقني
هل تستطيع شركة ذكاء اصطناعي رفض استخدامات عسكرية معينة لنموذجها؟
يستطيع مورد الذكاء الاصطناعي رفض عمل عسكري مقترح أو التفاوض على حدوده قبل التوقيع. وبعد النشر، يحدد العقد وطريقة الاستضافة وقانون المشتريات والضوابط التقنية من يقيّد الاستخدام أو يعلق الوصول أو يطلب استمرار الخدمة.
نعم، تستطيع شركة ذكاء اصطناعي عادة رفض استخدام عسكري مقترح قبل توقيع العقد، مثلما يستطيع أي مورد تجاري الامتناع عن تنفيذ عمل أو التفاوض على شروطه. لكن بعد قيام علاقة تعاقدية، لا يحق لأي طرف أن يستبدل الشروط المتفق عليها بسياسته المفضلة من جانب واحد. عندها تتوقف الإجابة على نص العقد وقانون المشتريات العامة وطريقة تشغيل النموذج وأي صلاحيات قانونية تملكها الدولة في مسائل الأمن القومي.
الإجابة المختصرة
يجوز لمورد الذكاء الاصطناعي أن يضع سياسة للاستخدام المقبول، وأن يستبعد تطبيقات معينة ويقرر العملاء الذين سيخدمهم. وفي المقابل، تستطيع الحكومة رفض القيود أو اختيار مورد آخر أو بناء نظام داخلي أو التفاوض على سيطرة أكبر على الخدمة واستمرارها. وإذا وُقع العقد، فهو الذي يحدد ما يجب على المورد تقديمه وكيف يجوز لأي طرف تعليق الخدمة أو تعديلها أو إنهاؤها.
لا تتفوق سياسة السلامة المنشورة للشركة تلقائيا على عقد حكومي نافذ. وفي الوقت نفسه، لا يمنح العقد الحكومي الدولة بالضرورة سيطرة بلا حدود على تقنية الشركة. يحتاج الإلزام أو العقاب أو الاستبعاد من أعمال لاحقة إلى سند تعاقدي أو قانوني صحيح، وإلى إجراءات عادلة في كثير من الأنظمة القانونية.
لماذا يختلف الذكاء الاصطناعي العسكري عن البرمجيات العادية؟
يحدد ترخيص البرامج التقليدي المستخدمين والميزات والتزامات الأمان والدعم. أما نموذج الذكاء الاصطناعي المتقدم فيضيف قدرا أكبر من عدم اليقين، لأن مخرجاته احتمالية وقد تتغير قدراته بين إصدار وآخر، ولأن النظام العام نفسه يمكن أن يخدم الإدارة الروتينية أو تحليل الاستخبارات أو الدفاع السيبراني أو قرارات تمس استخدام القوة.
ينشأ عن ذلك ثلاثة أنواع من الاعتماد:
- اعتماد تشغيلي: قد تعتمد وحدة عسكرية على النموذج أثناء مهمة، فيعطلها سحب الخدمة فجأة أو تغير سلوكها.
- اعتماد تقني: قد يتحكم المورد في التحديثات والمرشحات والبنية الحاسوبية وواجهة البرمجة اللازمة للتشغيل.
- اعتماد على سياسة المورد: قد تحدد قواعد الشركة الأوامر والبيانات والتطبيقات المسموح بها، حتى عندما ترى الحكومة أن النشاط قانوني.
المسألة الأساسية ليست هل تستطيع الشركة أن تأمر الجيش، فهي لا تستطيع ذلك. السؤال هو هل قبلت الحكومة اعتمادا على جهة خاصة من دون أن تؤمن بالعقد والتصميم التقني مقدار السيطرة الذي تحتاج إليه المهمة.
قبل العقد: تستطيع الشركة التفاوض أو الانسحاب
يستطيع المورد الخاص عادة الامتناع عن تقديم عرض أو اقتراح شروط مثل:
- عدم استخدام النموذج لاختيار أهداف بشرية أو الاشتباك معها من دون حكم بشري فعلي؛
- منع المراقبة الداخلية الواسعة؛
- تقييد العمليات السيبرانية الهجومية؛
- اشتراط بيئات أمنية معتمدة وقواعد محددة للتعامل مع البيانات؛
- إخضاع المخرجات عالية الأثر لمراجعة بشرية؛
- فرض متطلبات للاختبار والتدقيق والإبلاغ عن الحوادث.
لا تضطر الحكومة إلى قبول هذه الشروط. يمكنها اعتبار القيود غير متوافقة مع المهمة، أو دعوة موردين آخرين، أو شراء قدرة أضيق، أو تمويل بديل تديره داخليا. في هذه المرحلة يكون الرفض قرارا تجاريا وسياسيا في الأساس، مع مراعاة ما قد ينطبق من قوانين التمييز والعقوبات وضوابط التصدير والقطاعات المنظمة.
بعد التوقيع: يصبح العقد دليل التشغيل
عندما يوقع الطرفان، لا يعود السؤال المهم هو ماذا تقول السياسة العامة لكل منهما، بل ماذا أدخل العقد ضمن التزاماته.
ينبغي للعقد الجيد الخاص بالذكاء الاصطناعي العسكري أن يحدد:
- الاستخدامات المسموحة والمحظورة: السيناريوهات الدقيقة أوضح من عبارات واسعة مثل «كل غرض قانوني».
- استمرار الخدمة: التوافر والدعم وتغيير الإصدارات والوصول في الطوارئ وحالات التعليق.
- السيطرة على النموذج: هل يعمل في سحابة المورد، أم على بنية حكومية، أم من أوزان نموذج تُسلّم بموجب ترخيص؟
- السيطرة على الضوابط: من يغير المرشحات وبوابات الموافقة والتعليمات الأساسية وقواعد المراقبة؟
- حقوق البيانات: هل تُحتفظ المدخلات الحساسة، أو تُستخدم للتدريب، أو يطلع عليها الموظفون، أو تُنقل عبر الحدود؟
- الاختبار وضمان الأداء: كيف تُفحص الدقة والأمن السيبراني وقابلية التتبع وأنماط الفشل قبل النشر وبعد التحديثات؟
- الخروج والانتقال: مدة الإشعار وتصدير البيانات والمساعدة على الاستبدال والحقوق التي تبقى بعد انتهاء العقد.
- إجراءات النزاع: التصعيد ومهلة تصحيح الخلل والتعليق والإنهاء وحق الطعن.
إذا حجب المورد لاحقا استخداما يسمح به العقد بوضوح، فقد تملك الحكومة وسائل تعويض عن عدم التنفيذ. وإذا طلبت الحكومة استخداما يستبعده العقد، فقد تحتاج إلى التفاوض من جديد أو تغيير المورد أو الاستناد إلى صلاحية قانونية منفصلة. لا ينبغي اكتشاف هذا الحد أثناء عملية عسكرية.
هل تستطيع الضوابط التقنية منع الاستخدام العسكري فعلا؟
يعتمد ذلك على طريقة تشغيل النموذج.
خدمة يستضيفها المورد
عندما يصل الجيش إلى النموذج عبر واجهة خارجية، قد يستطيع المورد فحص الاتصالات وتطبيق المرشحات وتغيير النموذج وخفض معدل الطلبات أو إيقاف الوصول. يمنحه ذلك سيطرة تقنية كبيرة، لكنه ينشئ أيضا مخاطرة تتعلق باستمرار العمل وقد يدخل في نطاق تصنيف مخاطر سلاسل التوريد.
تشغيل مخصص أو داخل بنية حكومية
إذا عمل النموذج داخل بيئة حكومية محمية، تقل رؤية المورد لما يحدث وقدرته على التدخل الفوري. تظل القيود التعاقدية ملزمة، لكن تنفيذها يعتمد أكثر على صلاحيات الوصول وسجلات التدقيق وشروط الترخيص والرقابة المؤسسية، لا على مفتاح إيقاف بعيد.
تسليم أوزان النموذج
عندما تملك الجهة أوزان النموذج وبيئة الحوسبة، قد لا يستطيع المورد عمليا منع استخدام معين بعد التسليم. تبقى الضوابط القانونية والتنظيمية وما تنفذه الحكومة من حماية تقنية. يزيد هذا النموذج سيطرة الدولة، لكنه ينقل إليها مسؤولية أكبر عن الأمن والتحديث والتقييم ومنع إساءة الاستخدام.
ما معنى السيطرة البشرية الفعلية؟
لا تتحقق المراجعة البشرية بمجرد وجود شخص قرب النظام. يمنح النظام الذي يعمل بإشراف بشري المشغل معلومات وسلطة ووقتا كافيا لفحص مخرجات الذكاء الاصطناعي ورفضها. ويختلف مقدار الحكم البشري المطلوب باختلاف المهمة العسكرية.
فالنظام الذي يلخص سجلات الصيانة لا يساوي في مخاطره نظاما يقترح أهدافا. وفي القرارات التي تتصل باستخدام القوة، قد تتطلب السيطرة الفعلية بيانات حساسات موثقة وتوضيحا لعدم اليقين وقواعد اشتباك واضحة وموافقة بشرية صريحة وطريقة آمنة للإلغاء. وقد تجعل السرعة الآلية الموافقة شكلية إذا لم يتمكن الإنسان من فهم الأدلة قبل التصرف.
يلزم القانون الدولي الإنساني الدول والأشخاص الذين يديرون الأعمال القتالية. تستطيع سياسة المورد إضافة حماية، لكنها لا تنقل المسؤولية القانونية للحكومة إلى شركة البرمجيات أو إلى النموذج.
هل تستطيع الحكومة إجبار الشركة؟
تملك بعض الدول صلاحيات للطوارئ والإنتاج الدفاعي وضوابط التصدير والاستخبارات والاستيلاء قد تؤثر في الشركات الخاصة. ويختلف نطاقها بشدة بين دولة وأخرى ومن ظرف إلى آخر. فقد تفرض أولوية في الإنتاج أو حفظ سجلات أو مساعدة تقنية أو قيودا على التصدير. لكنها لا تنشئ قاعدة عالمية تجيز لكل حكومة طلب أي استخدام للذكاء الاصطناعي من أي مورد.
كما تملك جهات المشتريات سلطات مهمة لكنها أضيق. تستطيع الحكومة في حالات كثيرة إنهاء العقد وفق بنوده، أو عدم تجديده، أو إبعاد منتج لا يفي بالمتطلبات عن نظام محدد، أو طلب تعويض. ومع ذلك، يجب أن تتبع هذه الإجراءات العقد والقانون. ولا يصلح وصف أمني بديلا عن الأدلة والإجراءات لمجرد أن الخلاف يتعلق بالدفاع.
لماذا تقلق الحكومات من حق النقض الخاص؟
يحتاج الجيش إلى وصول يمكن توقعه للأنظمة المدمجة في التخطيط أو الاستخبارات أو القيادة. ومن المشروع أن يقلق المسؤولون إذا استطاع المورد تغيير سياسته بين ليلة وضحاها، أو استبدال النموذج من دون اختبار، أو حجب نشاط مشروع بالخطأ، أو تعليق الخدمة أثناء أزمة.
تزداد المخاطرة عندما:
- لا يقدم القدرة المطلوبة إلا مورد واحد؛
- يرتبط النظام بعمق ببيانات سرية ومسارات عمل حساسة؛
- يحتاج الانتقال إلى نموذج آخر أشهرا من الاختبار؛
- يسيطر المورد وحده على التحديثات أو التحقق من الهوية؛
- لا يضمن العقد المساعدة على الانتقال.
لا يكون الحل دائما بإزالة جميع الضوابط. يمكن تصميم الاستمرارية عبر تعدد الموردين وواجهات قابلة للنقل والتحكم في الإصدارات وسجلات تديرها الحكومة وخطط بديلة وقواعد واضحة لإدارة التغيير.
لماذا تقلق الشركات من الشروط المفتوحة؟
تبدو عبارة «أي استخدام قانوني» دقيقة، لكن قد يختلف الأطراف على معنى القانون، وقد يتغير بين الدول، وربما لا يُحسم إلا أمام المحكمة. وقد يعرض الشرط الواسع المورد لضرر في السمعة ورحيل الموظفين وقلق المستثمرين وقيود التصدير ومسؤولية عن إخفاقات لم يُصمم النموذج للتعامل معها.
لا تقل المخاطر التقنية أهمية عن الأخلاق. قد يختلق النموذج العام معلومات، أو ينفذ مدخلات متلاعبا بها، أو يسرب بيانات حساسة، أو يتغير سلوكه بعد التحديث. وقد يكون رفض استخدام عالي المخاطر حكما على قصور القدرة، لا محاولة من الشركة لصنع السياسة الدفاعية.
تقسيم عملي للمسؤولية
- تحدد الدولة المهمة وسندها القانوني: تبقى المؤسسات المنتخبة والقيادة العسكرية مسؤولة عن غاية العملية.
- يشرح المورد الحدود التقنية بصدق: يفصح عن أنماط الفشل المعروفة وحدود الاختبار وأثر التحديثات والاستخدامات التي لم تثبت صلاحية المنتج لها.
- يحول العقد السياسة إلى التزامات دقيقة: تُكتب القيود والتوافر وحقوق البيانات والسيطرة على التغيير قبل النشر.
- يحافظ النظام على حكم بشري يمكن مساءلته: تحتاج القرارات الأخطر إلى مراجعة وصلاحيات وسجلات أقوى.
- يفترض التصميم أن المورد قد يفشل أو ينسحب: تقلل البدائل وخطط الطوارئ وقابلية نقل البيانات سلطة أي شركة منفردة.
- تسلك النزاعات إجراءات قانونية: قد تبرر المخاطر الأمنية تحركا عاجلا، لكن تظل الأدلة والصلاحية الموثقة والمراجعة ضرورية.
ماذا يوضح نزاع أنثروبيك؟
دار النزاع الذي تناوله تقرير نيوتقنية عن البنتاغون وأنثروبيك حول قيود مقترحة على الأسلحة الذاتية بالكامل والمراقبة الداخلية الواسعة. لم يمنح الحكم المذكور شركات الذكاء الاصطناعي حقا عاما في تعطيل السياسة العسكرية. بل تناول مشروعية تصنيف محدد لمخاطر سلاسل التوريد والإجراءات التي فُرض بها.
تمثل القضية مثالا مفيدا وليست جوابا عالميا. تختلف قواعد المشتريات وصلاحيات الطوارئ والحماية الدستورية بين الدول، وقد تغير مراحل الطعن المقبلة الوضع القانوني للنزاع نفسه. أما الدرس الدائم فأوضح: لا ينبغي للحكومات وضع سلطة تمس مهمة حيوية داخل شروط غامضة لمورد، ولا ينبغي للشركة أن تعد بقدرات أو حدود وصول لا يدعمها العقد بوضوح.
أسئلة ينبغي طرحها قبل اعتماد نموذج عسكري
- ما المهام التي يجوز للنموذج تنفيذها أو تقديم المشورة فيها أو يُمنع من التحكم بها؟
- من يستطيع تغيير النموذج أو المرشحات أو تعليماته الأساسية؟
- هل تستمر الخدمة إذا انقطعت الشبكة الخارجية أو توقف المورد؟
- ماذا يحدث للبيانات السرية أو الشخصية؟
- كيف تُراجع كل مخرجات ذات أثر وكيف تُسجل؟
- ما الاختبارات التي تُعاد بعد كل تحديث؟
- ما سرعة استبدال النموذج بآخر؟
- أي قانون وإجراء للنزاع يحكمان تعليق الخدمة؟
إذا غابت الإجابات الدقيقة، فلا تقتصر المشكلة على سلامة الذكاء الاصطناعي، بل تشمل أيضا ضعفا في تصميم النظام وفي المشتريات.
ظهر أول مرة في
قضاء أميركي يبطل تصنيف أنثروبيك خطرا على سلاسل التوريد
