كيف تغيّر نماذج الذكاء الاصطناعي المحلية مخاطر الأمن السيبراني؟

يعمل النموذج المحلي للذكاء الاصطناعي داخل جهاز أو خادم يسيطر عليه المستخدم، فلا تضطر الوثائق والأسئلة إلى المرور بخدمة سحابية في كل مرة. هذه ميزة مهمة للخصوصية، لكنها قد تمنح المهاجم أيضاً مساحة مغلقة لفرز البيانات المسروقة وتجربة الشفرة وصناعة رسائل خداع.

ما هو الفرق بين النموذج المحلي والخدمة السحابية؟

في الخدمة السحابية، يرسل التطبيق الطلب إلى خوادم الشركة المزودة ثم يعيد الإجابة. تستطيع الشركة فرض حدود للاستخدام وتسجيل بعض الأنشطة وإيقاف الحساب عند الاشتباه في إساءة الاستعمال.

أما في التشغيل المحلي فتوجد ملفات النموذج وبرنامج التنفيذ داخل الجهاز أو الشبكة الخاصة. قد يحتاج المستخدم إلى تنزيل النموذج أو تحديثه عبر الإنترنت، لكن معالجة الأسئلة والوثائق اليومية يمكن أن تبقى في البيئة نفسها. في المقابل، يتحمل المشغل تكلفة العتاد والصيانة والحماية.

لماذا قد يفضّل المهاجم إبقاء الذكاء الاصطناعي داخل خادمه؟

البيانات المسروقة قد تكشف عملية التجسس إذا أُرسلت إلى مزود خارجي. ويمكن للحسابات والسجلات وأنظمة مراقبة إساءة الاستخدام أن تترك أدلة أو تمنع نشاطاً معيناً. يقلل التشغيل المحلي هذه النقاط الخارجية، ولا يلغي بالضرورة الآثار الموجودة في نظام التشغيل أو الشبكة.

هذه الخصوصية ليست خبيثة في ذاتها. تستفيد منها المؤسسات التي تتعامل مع ملفات طبية أو قانونية أو تجارية حساسة. لذلك لا يكفي العثور على برنامج نموذج محلي لاتهام مستخدم، بل يجب ربطه بالسلوك والملفات والاتصالات المحيطة.

كيف يدخل البحث في الوثائق ضمن العملية؟

يمكن ربط النموذج بمجموعة محددة من الملفات عبر الاسترجاع المعزز بالتوليد (Retrieval-Augmented Generation أو RAG). يبحث النظام أولاً عن المقاطع الأقرب إلى السؤال، ثم يضعها أمام النموذج ليصوغ إجابة تستند إلى ذلك السياق.

قد يستخدم المهاجم هذه الطريقة لاستخراج أسماء أو بيانات حسابات أو موضوعات مهمة من آلاف الصفحات. وقد يستخدمها موظف شرعي للبحث في أدلة العمل. الفرق الحقيقي هنا هو مصدر الوثائق والغرض من المعالجة والصلاحيات المتاحة للنظام.

هل يستطيع النموذج تنفيذ الهجوم وحده؟

يمكن ربط النموذج بأدوات برمجية من خلال إطار لوكيل ذكي، فيطلب قراءة ملف أو تشغيل سكربت أو ترتيب خطوات. لكن وجود هذا الإطار لا يثبت أن الهجوم أصبح ذاتياً. قد يخطئ النموذج في الأوامر، وقد تحتاج كل خطوة حساسة إلى موافقة إنسان.

ينبغي التعامل بحذر مع كلمة «مستقل». الدليل الأقوى يجب أن يوضح أن النظام اختار الهدف ونفذ الأفعال وتكيف مع النتائج من دون تدخل بشري مستمر، لا أن يكتفي بصورة تثبيت برنامج أو سجل تجربة.

كيف تستطيع فرق الأمن اكتشاف الخطر؟

التركيز على أسلوب كتابة البريد لم يعد كافياً، لأن النص المصقول قد يكتبه إنسان أو نموذج. الأفضل مراقبة ما يحدث عند فتح الملف: تشغيل أوامر مخفية، إنشاء مهمة مجدولة، الوصول غير المعتاد إلى مستودعات عامة، تنزيل حمولة مشفرة أو إنشاء فهرس كبير لوثائق حساسة.

تظل مصادقة البريد القوية وعزل المرفقات وتقليل الصلاحيات ورصد سلوك الأجهزة أدوات أساسية. كما تساعد السجلات المحلية على تعويض غياب سجل لدى مزود سحابي عندما تتم المعالجة داخل جهاز خاص.

ما هي الخلاصة العملية؟

لا تجعل النماذج المحلية القرصنة الذاتية حتمية، لكنها تخفض تكلفة بعض الأعمال وتزيد خصوصيتها. الخطر الأقرب هو أن يستخدم مهاجم خبير أدوات متاحة للجميع لإنجاز التحليل والكتابة والتطوير بسرعة أكبر.

ينبغي لفرق الحماية الاستعداد لهذه الزيادة الواقعية في الكفاءة، مع تجنب القفز إلى استنتاجات عن أن كل نموذج محلي أداة هجومية أو أن الإنسان خرج من العملية.