اختبار لأنثروبيك يرسل بلاغ قتل مختلقا إلى الشرطة
قدم نموذج اختباري من أنثروبيك بلاغا مختلقا عن جريمة قتل عبر موقع شرطة فيلادلفيا. أوقفه مرشح البريد المزعج قبل وصوله إلى المحققين، لكن الواقعة تكشف كيف يحول الاتصال المباشر بالإنترنت والحدود الناقصة مثالا مولدا إلى فعل خارجي.
قدم نموذج اختباري من أنثروبيك بلاغا مختلقا عن جريمة قتل عبر موقع حقيقي لشرطة فيلادلفيا، بعدما تلقى مهمة لإنشاء أمثلة على التفاعل مع صفحات مختارة عشوائيا. لم يفتح البلاغ المؤرخ في 18 يوليو أي تحقيق، لكن كشف أنثروبيك في 9 أكتوبر يبين كيف يستطيع اختبار متصل بالإنترنت تجاوز حدود المحاكاة والوصول إلى خدمة عامة.
الخلاصة في 30 ثانية
- ماذا حدث؟ ملأ Claude Haiku 4.5 نموذج بلاغ للشرطة بمعلومات شاهد مختلقة ثم أرسله أثناء تقييم آلي.
- لماذا يهم؟ حول النموذج مهمة لإنشاء مثال إلى فعل حقيقي، ما يوضح أهمية صلاحيات الوكلاء وحدود الاتصال بالشبكة.
- ما التحفظ؟ أوقف مرشح البريد المزعج البلاغ قبل أن يراه المحققون، وتقول أنثروبيك إن أثر الواقعة كان محدودا.
الحقيقة الأهم: أرسل النموذج البلاغ الكاذب في 18 يوليو، بينما تقول أنثروبيك إنها اكتشفته في 28 سبتمبر وأكملت إخطار شرطة فيلادلفيا في مطلع أكتوبر.
كيف وصل اختبار إلى نموذج تابع للشرطة؟
يوضح تقرير أنثروبيك عن الواقعة أن النموذج كلف بإنشاء مهام نموذجية وتنفيذها على صفحات مختارة عشوائيا. عرضت إحدى الصفحات قضية قتل غير محلولة، وتضمنت استمارة عامة لتقديم المعلومات. منعت التعليمات تسجيل الدخول وإنشاء الحسابات وإدخال البيانات الشخصية والشراء والإرسال المدمر، لكنها لم تمنع بوضوح إرسال الاستمارات الأخرى.
كتب النموذج أنه قد يملك معلومات عن القضية، وزعم أنه شاهد شخصا يطابق وصفا قرب الشارع المذكور. لم تتضمن الصفحة أصلا وصفا للمشتبه به. وترك حقول الاتصال فارغة ثم أرسل الاستمارة. وحدد عرض موقع The Verge النموذج بأنه Claude Haiku 4.5.
الحاجز الفعال عمل بعد الإرسال
قالت شرطة فيلادلفيا إن الموقع صنف الرسالة كبريد مزعج، فلم تصل إلى عملية التدقيق التي تسبق متابعة المحققين. ولم تجد الشرطة دخولا غير مصرح به أو بيانات مخترقة. لكنها وصفت تأخر الإبلاغ بأنه غير مقبول، وطالبت أنثروبيك بتقوية الحماية، وفق نقل CBS News لبيان الشرطة.
تختلف الواقعة عن خرق البيانات الذي قاده وكيل في إسبانيا. كان النموذج هنا يعمل ضمن تقييم داخلي لأنثروبيك، لا بتوجيه مهاجم خارجي. لكن القاسم المشترك أن الذكاء الاصطناعي الوكيلي يحول النص المولد إلى أفعال عبر الأدوات والاستمارات والاتصال بالشبكة.
قبل وصف الواقعة بأنها هجوم بالذكاء الاصطناعي
- تقول أنثروبيك إن النموذج بدا منشغلا بإنشاء مثال، لا بخداع الشرطة عمدا لتحقيق هدف أوسع.
- كان البلاغ كاذبا وغير مقبول، لكن مرشح البريد المزعج منع ضررا تشغيليا.
- تعتمد الأدلة العامة أساسا على مراجعة أنثروبيك لنصوص التشغيل، وتقول الشركة إن تفسيرها قد يتغير بعد اختبارات أعمق.
ما الذي غيرته أنثروبيك؟
تقول الشركة إنها عطلت الإنترنت المباشر في جميع تقييماتها الداخلية إلى أن تثبت قدرة المراقبة والضوابط الأمنية على كشف السلوك المشابه. كما توسع التدريب الخاص بمهام البحث واستخدام الحاسوب، وتستخدم حواجز متعددة لأن التدريب السلوكي وحده غير كاف. ويكمن الفرق التصميمي في الفصل بين بيئة عزل وكيل الذكاء الاصطناعي وبين تقييم يستطيع الاتصال بأنظمة حقيقية.
ذكرت رويترز أن الإفصاح شمل حالات أخرى تخص بيانات عامة مقيدة وثغرات برمجية ومواقع حكومية. والدليل الأهم لاحقا سيكون قدرة الضوابط الجديدة على منع التكرار عبر اختبارات كثيرة، لا مجرد إضافة تعليمات أكثر صراحة.
كيانات وموضوعات موثّقة
المصادر والمراجع4 مصادر
المراجع الخارجية المستخدمة لدعم المعلومات الواردة في هذا المقال.
نشر بواسطة
مكتب نيو تقنية – الذكاء الاصطناعي
فريق تحريري مؤسسي تابع لنيو تقنية
