أنثروبيك تحاصر استخراج مسارات التفكير بطبقات حماية جديدة
تقول أنثروبيك إن ضوابط الوصول والمصنفات وحدود الحسابات خفضت مسارات التفكير التي تجمعها حملات الاستخلاص غير المصرح بها بين 90% و99%. ويظل القياس صادرا عن منصة الشركة من دون تحقق مستقل.
تقول أنثروبيك إن منظومة دفاع متعددة الطبقات خفضت كمية مسارات التفكير المحمية التي تجمعها حملات استخلاص النماذج غير المصرح بها بنحو 90% إلى 99%. ويعرض إفصاح 12 أكتوبر مزيجا من ضوابط الوصول ومصنفات الطلبات وحدود الحسابات والحظر، لا مرشحا واحدا.
الخلاصة في 30 ثانية
- ما الذي تغير؟ قيدت أنثروبيك انتقال التفكير المحمي، وأضافت مصنفا على مرحلتين وشددت القيود على الحسابات التي تحاول استخراجه مرارا.
- ما الذي قيس؟ تقول الشركة إن عدد رموز التفكير التي وصلت إلى المستخلصين عبر منصتها انخفض بين عشرة أضعاف وأكثر من مئة ضعف بعد اكتمال تشغيل المصنف.
- ما التحفظ؟ لم تنشر أنثروبيك الأعداد الخام أو مجموعة الاختبار أو تدقيقا مستقلا، وتتوقع أن يطور المهاجمون أساليبهم.
الحقيقة الأهم: تفيد أنثروبيك بأن المصنف يلتقط جميع أساليب الاستخراج الموثقة في تقريرها الصادر في سبتمبر، مع معدل نتائج إيجابية خاطئة يقل عن 0.1%.
لماذا تستهدف الحملات مسارات التفكير؟
استخلاص النماذج تقنية معروفة يتعلم فيها نظام أصغر من إجابات نموذج أكثر قدرة. تبدأ المشكلة الأمنية عندما تستخدم جهات ما حسابات مزورة وحركة آلية لجمع هذه الإجابات بلا إذن. وتزداد قيمة مسارات التفكير المفصلة لأنها تكشف الخطوات الوسيطة، لا الجواب النهائي فقط.
اختبرت أنثروبيك الفرق باستخدام معيار SWE-bench Verified. سجل نموذج Claude مدرب على النصوص الكاملة للتفكير 80.4%، مقابل 71.8% عند التدريب على ملخصات التفكير. يفسر ذلك توجه الشركة إلى تلخيص التفكير المحمي، لكن المهاجمين حاولوا لاحقا دفع النماذج إلى نسخ النص المخفي أو ترجمته أو إعادة تنسيقه.
ثلاث طبقات بدلا من قائمة حظر
تمنع الطبقة الأولى، التي تسميها الشركة «التفكير المحفوظ»، حسابات الواجهة البرمجية الجديدة من تعديل سياق Claude السابق، كما تمنع تمرير التفكير المحمي إلى نموذج أو مؤسسة لم تنشئ الطلب الأصلي. وتستخدم الطبقة الثانية مصنفا على مرحلتين جرى تقويته عبر اختبار الاختراق الأخلاقي للذكاء الاصطناعي. أما الثالثة فتجعل التكرار مكلفا بفرض حدود أشد وحظر الحسابات وتحصيل رسوم على الطلبات المحجوبة في الفئات التي يقل فيها معدل النتائج الإيجابية الخاطئة عن 0.1%.
تقول الشركة إنها حظرت عشرات الآلاف من الحسابات المرتبطة بحملات الاستخلاص، وأحيانا خلال ساعتين من بدء الحملة. وتعمل الضوابط على Sonnet 5.5 وOpus 5 و5.5 وFable 5 و5.1.
ما الذي لا تثبته نسبة 99%؟
- يقيس الانخفاض عدد الرموز التي تقدر أنثروبيك أنها استخرجت من منصتها، لا قدرة منافس على تدريب نموذج مماثل بنجاح.
- لم تكرر جهة مستقلة بيانات ما قبل التشغيل وما بعده أو اختبارات المصنف أو حساب معدل الأخطاء.
- تقر أنثروبيك بأنها لم تواجه بعد محاولة مكتملة شديدة التطور والإصرار ضد المنظومة الجديدة.
حماية لها تكلفة على المستخدم
تعترف أنثروبيك بأن التفكير المحفوظ أجبر بعض المطورين على تعديل تكاملاتهم، وأن طلبات سليمة قد تحجب، وأن رسوما تفرض الآن على طلبات معينة يجري منعها. هذه المقايضات مهمة لأن استخدامات النماذج الاستدلالية الطبيعية قد تشبه الاستخراج على نطاق صغير.
يختلف هذا التطور عن إفصاح أنثروبيك الأخير عن وصول نموذج اختباري إلى موقع للشرطة. تناولت تلك الواقعة وكيلا تجاوز حدوده المقصودة، بينما تحاول المنظومة الجديدة منع جهات خارجية من نسخ قدرات النموذج. وسيكون الدليل الأهم لاحقا هو استمرار الفاعلية أمام هجمات تتكيف مع الحماية وظهور تحقق مستقل، لا النسبة الأولية وحدها.
كيانات وموضوعات موثّقة
المصادر والمراجع4 مصادر
المراجع الخارجية المستخدمة لدعم المعلومات الواردة في هذا المقال.
نشر بواسطة
مكتب نيو تقنية – الذكاء الاصطناعي
فريق تحريري مؤسسي تابع لنيو تقنية
