تقنية من كايست تستخدم «كسر الحماية» مؤقتاً لجعل تخصيص نماذج الذكاء الاصطناعي أكثر أماناً

يمنح تدريب نموذج لغوي كبير على وثائق شركة أو بيانات مستخدم قدرة أكبر على أداء المهام المتخصصة، لكنه قد يضعف في الوقت نفسه ضوابط الأمان التي اكتسبها النموذج أثناء تدريبه الأصلي. ويقترح باحثون في المعهد الكوري المتقدم للعلوم والتقنية (KAIST) حلاً غير مألوف: وضع النموذج في حالة مؤقتة ومعزولة أثناء التعلم، ثم إزالة هذه الطبقة وتعزيز الأمان من دون محو القدرات الجديدة.

كيف يعمل إطار Buffer-and-Reinforce؟

يعتمد الإطار على وحدتين خفيفتين لتكييف النموذج. أثناء التخصيص، تعمل وحدة BufferLoRA كحاجز مؤقت بين بيانات المستخدم والنموذج الأساسي. ووفقاً للباحثين، تسمح هذه الحالة بتعلم المعرفة المفيدة للمهمة، مع تقليل تأثر النموذج بالسلوكيات الضارة التي قد تكون موجودة في بيانات التدريب.

بعد انتهاء التدريب، تُزال وحدة BufferLoRA بالكامل. ثم تُستخدم وحدة ReinforceLoRA مع عملية رياضية تُعرف باسم تحليل QR لتعزيز السلوكيات المرتبطة بالأمان، مع الاحتفاظ بالمهارات الجديدة. وبذلك لا يبقى النموذج المستخدم فعلياً في حالة «كسر الحماية» المؤقتة التي استُخدمت داخل مرحلة التدريب فقط.

ماذا أظهرت الاختبارات؟

في اختبار متطرف، جعل الفريق جميع أمثلة التخصيص مكونة من أسئلة وإجابات ضارة. وتقول كايست إن النموذج الناتج قدم إجابات ضارة في نحو 8% من التقييمات، مقابل قرابة 18% للنموذج الأصلي قبل التخصيص. كما حافظ الإطار على أداء قوي في المهمة الجديدة، من دون الحاجة إلى إضافة مجموعة منفصلة من بيانات الأمان أو رفع تكلفة الحوسبة بدرجة كبيرة.

اختير البحث، الذي يحمل عنوان Jailbreak to Protect، للعرض ضمن فئة Spotlight في مؤتمر ICML 2026. ويعكس ذلك أهميته التقنية، لكنه لا يعني أن الطريقة تضمن سلامة كل نموذج في جميع بيئات التشغيل.

الأهمية والحدود

تستخدم المؤسسات التخصيص لبناء مساعدين داخليين في الطب والتمويل وخدمة العملاء والبحث المؤسسي. وإذا أمكن فصل تعلم المهارات الجديدة عن الانحراف نحو السلوك الضار، فقد تنخفض مخاطر مهمة في نشر هذه الأنظمة، كما قد تقل الحاجة إلى إعادة بناء منظومة أمان كاملة لكل نموذج مخصص.

لكن اختبارات المختبر لا تغطي كل اللغات، أو الهجمات الخفية لتسميم البيانات، أو الوكلاء القادرين على استخدام الأدوات، أو المحادثات الطويلة في الواقع. وتتأثر النسب المعلنة بنوع النماذج ومجموعات الاختبار وطريقة تقييم الإجابات. لذلك يلزم تكرار مستقل للنتائج عبر نماذج وبيانات مؤسسية متنوعة، مع فحص تسريب الخصوصية والهلوسة والتحيز وحقن الأوامر غير المباشر. التقنية دفاع تدريبي واعد، وليست حلاً شاملاً لأمان الذكاء الاصطناعي.