وكيل ميتا الشخصي يدخل البريد والدفع تحت رقابة نظام أمان منفصل

أطلقت ميتا وكيلها الشخصي Muse، وهو نظام ذكاء اصطناعي يستطيع إرسال البريد الإلكتروني وحجز السفر وملء النماذج وإتمام المشتريات عبر الحسابات المتصلة. ينقل الإطلاق الذكاء الاصطناعي الاستهلاكي من تقديم الإجابات إلى تنفيذ إجراءات تحمل عواقب مالية وخصوصية حقيقية.

الحقيقة الأهم: يجب أن يمر كل إجراء عبر الخدمات المتصلة وكل اتصال بالإنترنت بنظام Sentinel، وهو سلطة أذونات منفصلة لا يستطيع Muse تجاوزها.

من المحادثة إلى التنفيذ

تقول ميتا في إعلان 8 سبتمبر إن Muse يستطيع فتح المتصفح وإكمال النماذج والتفاوض على الفواتير وتنظيم المشاريع الطويلة ومواصلة العمل في الخلفية. ويتوقف لطلب الموافقة قبل خطوات حساسة مثل إرسال رسالة أو إتمام عملية شراء. ويستخدم الدفع في البداية خدمة Stripe Link التي تنشئ بطاقة للاستخدام مرة واحدة حتى لا يرى الوكيل بيانات البطاقة الحقيقية.

بدأ طرح الخدمة في الولايات المتحدة لمن تبلغ أعمارهم 18 عاما أو أكثر. وتقول ميتا إن معظم الاستخدامات مجانية، مع اشتراكات لمن يحتاجون إلى قدرة أكبر. يختار المستخدم الخدمات التي يصل إليها Muse، وما إذا كان يقرأ فقط أو ينفذ إجراءات أيضا، ويمكنه سحب الصلاحيات. وتقول الشركة كذلك إن محادثات Muse وبياناته لا تصل إلى أنظمة الإعلانات، وإن المستخدم يستطيع منع الاستفادة من تفاعلاته في تدريب النماذج.

وكيل أمان يراقب الوكيل العامل

الجزء غير المعتاد هو البنية الأمنية. يحصل كل مستخدم على حاسوب سحابي مخصص باسم Muse Secure VM. يعمل الوكيل الرئيسي داخل حاوية لينكس مقيدة، ولا يستطيع رؤية كلمات المرور أو الرموز المخزنة. وتستخدم خدمات ذات صلاحيات محددة تلك البيانات نيابة عنه.

يفحص نظام مستقل على المضيف يسمى Sentinel طلبات الاتصال بالخدمات وكل حركة البيانات الخارجة إلى الإنترنت. يقترح Muse الإجراء، لكن Sentinel يقرر السماح به أو منعه أو طلب موافقة المستخدم. صُمم هذا الفصل لمواجهة خطر معروف، فقد يجد الوكيل تعليمات خبيثة مخفية داخل رسالة أو موقع أو ملف. وأظهرت أبحاث حديثة أن الخطوات التي تبدو بريئة قد تتراكم لتشكيل خطة ضارة.

يوفر Muse أيضا سجلا بالإجراءات المنفذة والمقترحة. وتقول الوثيقة التقنية لميتا إن الشركة اختبرت النظام داخليا وعبر فرق هجومية وبرنامج خاص لمكافآت اكتشاف الثغرات. وفتحت البرنامج للجمهور مع مكافآت تصل إلى 300 ألف دولار للتقارير المقبولة.

ما الذي يجب مراقبته؟

الاختبار الحقيقي هو قدرة Sentinel على وقف الإجراءات المتلاعب بها أو الخاطئة من دون جعل Muse شديد الحذر. نحتاج إلى اختبارات مستقلة لحقن التعليمات، ومعدلات خطأ للإجراءات الحساسة، وقياس القدرة على التعافي من الأخطاء، وسجلات واضحة للحالات التي تطلبت تدخلا بشريا. فقد أظهرت واقعة سابقة كيف يمكن لوكيل ذكاء اصطناعي أن يربط صلاحيات ضعيفة عبر خدمات متعددة.

لهذا تبدو أهمية Muse في كونه تجربة عامة لمنح وكيل واحد صلاحيات واسعة، لا دليلا على حل مشكلات الوكلاء الشخصيين. وستتحدد قيمته بمدى صمود حدود الأذونات أمام الحسابات المعقدة والتعليمات الملتبسة والمحتوى العدائي خارج مختبرات ميتا.