كيف ينفذ وكيل ذكاء اصطناعي مراحل متعددة من هجوم سيبراني؟

يستطيع وكيل الذكاء الاصطناعي تنفيذ أكثر من مهمة في هجوم سيبراني لأنه يجمع نموذجا لغويا مع أدوات وذاكرة وحلقة تحكم. يفسر النموذج الهدف، ويختار إجراء، ويقرأ النتيجة، ثم يقرر الخطوة التالية. لا يجعل ذلك النظام مستقلا بكل معنى، لكنه قد يقلل عدد القرارات التي يحتاج المشغل البشري إلى اتخاذها.

ما الفرق بين الوكيل وروبوت الدردشة؟

يقدم روبوت الدردشة نصا في الغالب. أما الوكيل فيستطيع أيضا استدعاء أدوات برمجية، وتصفح الملفات، وإرسال الطلبات، وتشغيل الشفرة، والتعامل مع التطبيقات. يعيد متحكم نتيجة كل إجراء إلى النموذج، وتتكرر الدورة حتى تنجح المهمة أو تبلغ حدا مقررا أو يوقفها نظام أمان.

قد تشمل الأدوات في الهجوم ماسحات الشبكات والمتصفحات وأوامر النظام والنصوص البرمجية. لا يحتاج الوكيل إلى اختراع تقنية اختراق جديدة لكل مرحلة، بل يستطيع ربط تقنيات معروفة بسرعة وتغيير مساره عندما يفشل خيار متوقع.

المراحل التي يمكن للوكيل ربطها

1. الدخول: يقدم المهاجم بيانات اعتماد أو خدمة مكشوفة أو نقطة دخول أخرى، وقد يختبر الوكيل صلاحية الوصول.
2. الاستطلاع: يرسم خريطة للملفات والخدمات والحسابات وسلوك التطبيق، ويسجل النتائج المفيدة.
3. اكتشاف الثغرات: يقارن الملاحظات بأنماط الضعف المعروفة أو يختبر مدخلات بحثا عن حالة قابلة للاستغلال.
4. تنفيذ الهدف: قد يعرض البيانات أو ينسخها أو يعدلها وفقا للصلاحيات والتعليمات.
5. التكيف: إذا فشل أمر، يفسر الخطأ ويعدل الخطة ويجرب أداة أو مسارا آخر.

تكمن القدرة المهمة في الحلقة التي تربط الملاحظة بالفعل. تتبع الأتمتة التقليدية نصا محددا مسبقا، بينما يستطيع الوكيل اختيار الخطوة التالية من أدلة متغيرة. ومع ذلك تبقى خياراته مقيدة بالنموذج والأدوات وبيانات الاعتماد والتعليمات المتاحة.

أين يبقى التحكم البشري؟

الاستقلال ليس حالة ثنائية. قد يختار شخص الهدف، ويحصل على بيانات الدخول، ويحدد النتيجة المطلوبة، ويوافق على الأوامر الحساسة، أو يراقب التقدم. وقد يوفر نظام آخر الأدوات وبيئة التنفيذ. تحذف التقارير العامة كثيرا من هذه التفاصيل، لذلك يحتاج وصف هجوم بأنه مستقل بالكامل إلى سجلات تبين ما فعله الوكيل ومتى تدخل البشر.

كما أن نجاح التسلسل لا يثبت اختراق النموذج الأساسي أو مزوده. يستطيع المهاجم إساءة استخدام خدمة مشروعة كما يسيء استخدام متصفح أو خادم سحابي أو أداة برمجية عادية.

كيف يستجيب المدافعون؟

تستطيع المؤسسات تقليل الضرر بفرض توثيق قوي، ومنح كل حساب أقل صلاحيات لازمة، وفصل الأنظمة الحساسة. تقلل بيانات الاعتماد القصيرة العمر قيمة الأسرار المسروقة. وتستطيع حدود المعدل وبوابات الموافقة إبطاء الاستخدام السريع للأدوات. يجب أن تربط السجلات التفصيلية بين الهوية والتعليمات واستدعاءات الأدوات والأوامر والوصول إلى البيانات كي يعيد المحققون بناء التسلسل.

ينبغي أن يبحث الكشف عن السلوك، لا عن توقيع برمجية خبيثة واحدة فقط. تشمل الأمثلة استطلاعا أسرع من المعتاد، وطلبات متكررة إلى نقاط كثيرة، وحسابا صحيحا يفتح ملفات غير مألوفة، أو تغييرات تأتي مباشرة بعد مرحلة المسح.

ما الأدلة المطلوبة بعد الواقعة؟

يفصل التقييم المسؤول بين الأحداث المؤكدة والاستنتاج. يحتاج المحققون إلى طريقة الدخول الأولى، وسجل بيانات الاعتماد، وإعداد النموذج والأدوات، والأوقات، والسجلات المتضررة، والموافقات البشرية، وخطوات الاحتواء. من دون ذلك قد يصح القول إن وكيلا شارك في الهجوم، لكن من السابق لأوانه القول إنه خطط له وأكمله وحده.

الخطر الأساسي ليس قرصانا سحريا يعمل بلا بشر، بل نظاما يستطيع ربط مهام هجومية مألوفة بسرعة وإصرار وكلفة أقل. لذلك يجب أن تضبط الدفاعات هوية من يستخدم الأدوات وسلسلة الأفعال المسموح للوكيل بتنفيذها.