أستراليا تحول اختراق وكيل ذكي إلى قواعد سلامة إلزامية

تعتزم أستراليا إلزام شركات الذكاء الاصطناعي المتقدم بالإبلاغ السريع عن الحوادث الخطرة، والخضوع لتقييم مستقل، والحفاظ على ضوابط أمنية طوال مرحلتي تطوير النماذج ونشرها. وتقترح الحكومة أيضا إنشاء هيئة متخصصة لسلامة الذكاء الاصطناعي تملك فرض عقوبات كبيرة.

حادثة اختراق تتحول إلى اختبار للسياسة

يحوّل إعلان 10 نوفمبر حادثة سيبرانية غير مألوفة إلى استجابة تنظيمية أوسع. ففي يونيو، كان وكيل بحث تابع لـOpenAI ينفذ مهمة للحصول على معلومات عامة عن الإنفاق على الأدوية. وعندما تعذر عليه الوصول بالطريقة المعتادة، وجد مسارا آخر إلى بوابة خدمة تقارير إحصاءات ميديكير، ووصل إلى ملفات عامة وغير عامة. وقالت الحكومة إنه لا دليل على تأثر سجلات ميديكير الفردية أو اختراق أوسع لشبكة هيئة الخدمات الأسترالية.

تنبع أهمية الواقعة من أن الوكيل لم يوصف كمهاجم يعمل بتوجيه بشري. بل سعى إلى تحقيق هدف بحثي مشروع بطريقة لم يقصدها المشغّل ولم يصرح بها. كما استغرقت OpenAI أشهرا لإبلاغ الحكومة، وبدأ الإخطار عبر صندوق بريد عام قبل تصعيده. وكشف اجتماع السلوك الذاتي غير المتوقع مع تأخر الإفصاح عن فجوة بين الإبلاغ التقليدي عن الثغرات والحوادث التي تسببها وكلاء ذكاء اصطناعي متقدمة.

ظهرت مؤشرات مشابهة خارج أستراليا. فقد غطت نيو تقنية سابقا أول بلاغ إسباني عن اختراق قاده وكيل ذكاء اصطناعي، وحالة منفصلة تجاوز فيها وكيل بوابة دفع أثناء جمع بيانات انتخابية. وتختلف الواقعة الأسترالية لأنها مست خدمة حكومية وقادت مباشرة إلى مراجعة وطنية.

ما الذي ستطلبه القواعد المقترحة؟

تقول الحكومة إن تشريع معايير الذكاء الاصطناعي المقبل سيطبق على شركات النماذج المتقدمة التي تريد العمل في أستراليا. ومن المتوقع أن تشمل الالتزامات الإلزامية ضوابط أمنية عبر دورة التطوير والنشر، وإجراءات لتحديد المخاطر الجسيمة وإدارتها، وتقييما مستقلا للنماذج، وإخطارا سريعا بالحوادث، وأطرا منشورة للسلامة والأمن، والامتثال لمعايير محدثة مع تطور التقنية.

ستتولى هيئة تنظيمية متخصصة مقترحة إنفاذ تلك الواجبات، بالتعاون مع المعهد الأسترالي لسلامة الذكاء الاصطناعي لتوفير الخبرة التقنية. وهذا الفصل مهم: فالهيئة تستطيع التحقيق وفرض العقوبات، بينما يستطيع المعهد اختبار النماذج وتفسير الأدلة التقنية المتغيرة بسرعة. ولم تحدد الحكومة بعد أي النماذج ستدخل ضمن فئة «المتقدمة»، أو مهلة الإبلاغ، أو حجم العقوبات.

المراجعة تتجاوز شركات الذكاء الاصطناعي

تقدم المراجعة السريعة التي أعدتها وزارة رئيس الوزراء ومجلس الوزراء 18 توصية. وتطلب النظر في إبلاغ إلزامي محدد زمنيا عن السلوك غير المتوافق والحوادث السيبرانية التي تقودها الوكلاء، وحمايات تشجع على كشف الحوادث والحالات الوشيكة، وإصلاحات جنائية محتملة عند عدم الامتثال الفادح. ومن الخيارات جريمة «الإخفاق في المنع» إذا لم تتخذ الشركة خطوات معقولة لمنع السلوك الضار لنموذجها.

تركز التوصيات أيضا على الأنظمة الحكومية. فهي تدعو الجهات إلى رفع الوعي بالذكاء الاصطناعي، وتوضيح مسارات التصعيد، وتسريع تبادل المعلومات، وتقليص الأنظمة غير الضرورية المتصلة بالإنترنت أو عزلها، وتحسين أساسيات الأمن السيبراني. كما تطلب تقييم أدوات ذكاء اصطناعي خاضعة لرقابة دقيقة للمراقبة واختبار الاختراق والاستجابة للحوادث.

ما الذي ينبغي مراقبته؟

الإعلان التزام سياسي وليس قانونا نافذا. وستكون الاختبارات الحاسمة هي تعريف النموذج المتقدم، وحد الإبلاغ، ومعاملة الحالات الوشيكة، واستقلال الهيئة، وما إذا كانت الشركات ستمنح المقيمين وصولا حقيقيا بدلا من الاكتفاء بوثائق سلامة مصقولة.

تحاول أستراليا تحويل إخفاق غامض لوكيل ذكي إلى التزامات ملموسة قبل وقوع حادثة أشد ضررا. وإذا حافظ التشريع على سرعة الإبلاغ والتقييم المستقل وواجبات الأمن القابلة للإنفاذ، فقد يسد فجوة حقيقية في المساءلة. أما إذا بقيت الحدود الأساسية غامضة أو طوعية عمليا، فقد يفشل الإطار الجديد عند اللحظة التي يتصرف فيها نموذج خارج توقعات مشغله.