طلبات تبدو بريئة قد تقود وكيل الذكاء الاصطناعي إلى تنفيذ هدف ضار

وجد باحثون في EPFL أن وكلاء الذكاء الاصطناعي نفذوا مهام ضارة أكثر عندما توزعت النية المحظورة على خطوات حوارية متكيفة. يكشف معيار STING قصور اختبار الطلب الواحد، لكنه أُجري في بيئات محكومة ولا يقيس مدى وقوع الهجمات فعلياً.