الخلاصة السريعة
تمنح بيئة العزل وكيل الذكاء الاصطناعي مكاناً مضبوطاً لتشغيل الشفرة والأدوات من دون فتح المضيف أو المؤسسة بالكامل. قد تعتمد على حاوية أو آلة افتراضية أو ضوابط نظام التشغيل أو بيئة سحابية مؤقتة. وتتوقف السلامة على حدود القدرات كلها، لا على تسمية المكان «صندوقاً معزولاً».
ما الذي تضبطه الحدود؟
- العمليات: البرامج المسموح بها وحدود المعالج والذاكرة.
- الملفات: المجلدات الظاهرة والقابلة للكتابة والاستمرار.
- الشبكة: الوجهات والبروتوكولات والمنافذ.
- الأدوات: واجهات البرمجة والأوامر المتاحة.
- الهوية: بيانات الاعتماد والأدوار والموافقات.
- العمر: ما إذا كانت البيئة تدمر بعد المهمة.
مسار التنفيذ المعتاد
- ينشئ المنسق مساحة معزولة من صورة موثوقة.
- تضاف الملفات اللازمة وأوراق اعتماد قصيرة العمر فقط.
- يتحقق وسيط سياسة من طلبات الأدوات والشبكة.
- يعمل الوكيل مع تسجيل الأفعال وحدود الموارد.
- تحتاج الأفعال عالية الأثر موافقة مستقلة أو تنفذ عبر خدمة محروسة خارج البيئة.
- تستخرج النتيجة وتلغى الأسرار وتدمر المساحة.
كيف يفشل العزل؟
تشارك الحاوية جزءاً أكبر من نواة المضيف مقارنة بالآلة الافتراضية، وقد تسمح ثغرة في النواة أو المشغل بالخروج. وقد يكشف ربط ملف خاطئ بيانات المضيف، ويسمح الإنترنت المفتوح بتسريبها. كما يستطيع رمز API قوي تغيير الإنتاج حتى إذا كان نظام الملفات المحلي معزولاً بإتقان.
قد تسرب المخابئ والسجلات وآثار البناء معلومات بين المهام، وقد يعطل استنزاف الموارد خدمات مجاورة من دون خروج تقني.
حقن التعليمات يغير نموذج التهديد
يقرأ الوكيل مستودعات وصفحات ووثائق ومخرجات أدوات قد تحمل تعليمات خبيثة. وإذا عامل المحتوى كسلطة، فقد يكشف سراً أو ينفذ طلب المهاجم. لذلك يجب أن تفترض البنية إمكان خداع النموذج وأن تطبق السياسة خارج حكمه.
أقل صلاحية وهوية مستقلة
امنح كل وكيل ومهمة هوية منفصلة وصلاحيات دنيا وبيانات اعتماد تنتهي سريعاً. لا تعط الوكيل رمز مسؤول بشري. افصل القراءة والكتابة والنشر والدفع، واجعل الأفعال الحساسة تحتاج توثيقاً أقوى أو موافقة بشرية. بذلك يبقى الإسناد واضحاً ويصغر نطاق الضرر.
اختبار البيئة
يجب اختبار الوصول الممنوع إلى الملفات والخروج الشبكي ورفع الصلاحية والعثور على الأسرار والاستمرار والتسرب بين المستأجرين. كما يلزم تحديث الصورة والتبعيات لأن العزل نفسه برمجيات. وينبغي للسجل إظهار الأفعال المقبولة والمرفوضة من دون تسجيل الأسرار.
تدقيق الواقع
لا تجعل البيئة الوكيل آمناً من كل ناحية. فهي لا تمنع نصاً مؤذياً أو شفرة معيبة أو إساءة استخدام قدرة مسموحة عمداً. وعندما تمنح الوكيل وصولاً إلى الإنتاج أو البريد أو تحويل المال، تمتد الحدود الفعلية إلى تلك الأنظمة. يجب أن يحدد ادعاء السلامة الأفعال المسموحة وافتراضات الفشل.
بنية قابلة للدفاع
استخدم بيئات مؤقتة ومدخلات للقراءة فقط قدر الإمكان، وشبكة ممنوعة افتراضياً، وأدوات مدرجة، وحصص موارد، وأوراق اعتماد قصيرة ومحددة، وبوابة سياسة خارجية. أبق النشر والأفعال غير القابلة للعكس خارج مساحة الوكيل. يلزم الدفاع متعدد الطبقات لأن كل طبقة عزل قد تحمل عيباً.
