xAI تقاضي مستخدماً بسبب صور جنسية مزيفة من Grok... فمن يتحمل المسؤولية؟

شركة ذكاء اصطناعي تنقل مواجهة المستخدم إلى المحكمة

رفعت شركة xAI المملوكة لإيلون ماسك دعوى اتحادية في تكساس ضد تيري واين هاروود، متهمة إياه بتجاوز ضوابط Grok عمداً لتحويل صور عادية إلى صور جنسية مزيفة من دون موافقة، بينها مواد مرتبطة بقاصرين. وكان هاروود قد اعتُقل بصورة منفصلة في ساوث كارولاينا في فبراير ويواجه اتهامات جنائية، بينما لم تفصل المحكمة بعد في الادعاءات المدنية.

تعد القضية من أوائل الحالات المعروفة التي تقاضي فيها شركة مطورة للذكاء الاصطناعي أحد مستخدميها بسبب محتوى مولد ضار. وتطلب xAI تعويضات وأمراً دائماً يمنعه من إنشاء حساب أو استخدام Grok.

ماذا تقول xAI؟

وفق الشكوى، رفع المدعى عليه صوراً لبالغين وقاصرين وحاول التحايل على أنظمة الأمان لإنتاج أو تعديل محتوى صريح. وتقول الشركة إن ذلك خالف شروطها وألحق أذى بضحايا حقيقيين وعرّضها لمخاطر قانونية وضرر في السمعة.

وتذكر xAI أنها أوقفت 52,222 حساباً وقدمت 73,604 بلاغات إلى المركز الوطني الأمريكي للأطفال المفقودين والمستغلين خلال 2026، وأسهمت تلك البلاغات في 244 اعتقالاً على الأقل. لكن هذه الأرقام واردة في ملف الشركة ولم تخضع لتدقيق مستقل معلن.

مسار جديد لفرض القواعد

تكتفي المنصات عادة بحذف الحسابات والإبلاغ عن المحتوى غير القانوني والتعاون مع الشرطة. أما مقاضاة المستخدم فتضيف طبقة أخرى، إذ تستطيع الشركة طلب منع قضائي واسترداد تكاليف وإرسال إشارة بأن كسر الضوابط قد يرتب مسؤولية مدنية مباشرة.

إذا قبلت المحاكم هذا المسار، فقد تتبعه شركات أخرى. ويمكن أن تتحول شروط الاستخدام من نصوص إدارية إلى أدوات إنفاذ ضد الإساءة المنظمة، خصوصاً عندما يثبت أن المستخدم حاول عمداً تعطيل القيود التقنية.

لكن مسؤولية المستخدم لا تلغي أسئلة المنصة

تأتي الدعوى بعد انتقادات امتدت شهوراً لأدوات الصور في Grok ووضع «spicy»، وسط اتهامات بأنها سهّلت إنتاج صور جنسية مزيفة. كما يواجه xAI دعاوى أخرى من أشخاص يقولون إن الخدمة صنعت صوراً غير رضائية لنساء وقاصرين، وتنفي الشركة مسؤوليتها في تلك القضايا.

محاسبة المسيء وفحص تصميم المنتج ليسا خيارين متعارضين. فقد تسأل المحاكم والجهات التنظيمية عما إذا كانت الضوابط معقولة، ومدى سرعة إصلاح طرق التحايل، وما إذا كان سوء الاستخدام متوقعاً عند إطلاق أدوات تعديل قوية.

الضحايا ليسوا تفصيلاً تقنياً

يمكن للصور الجنسية المزيفة أن تسبب ضرراً دائماً حتى لو لم يقع الفعل المصور في الحقيقة. قد تنتشر النسخ بلا نهاية، ويواجه الضحايا الإذلال والتحرش والخوف من تصديق الآخرين للمحتوى الملفق.

لذلك لا ينبغي للتغطية المسؤولة إعادة نشر الصور أو تقديم تفاصيل غير ضرورية عن الضحايا. والسؤال العام هو كيف تمنع الأنظمة الإساءة وتحفظ الأدلة وتبلغ الجهات المختصة وتساعد المتضررين على الحذف والدعم القانوني.

ما الذي قد توضحه القضية؟

قد تحدد المحكمة ما إذا كان تجاوز ضوابط خدمة ذكاء اصطناعي وشروطها يبرر تعويضات تتجاوز إغلاق الحساب. وقد تكشف أيضاً كيف رصدت xAI النشاط المزعوم وما التدابير التي كانت موجودة.

لكن الدعوى لن تحل مشكلة الحوكمة وحدها. فالأمان الفعال يحتاج إلى قيود في المنتج واختبارات هجومية وحدود للاستخدام وبلاغات سريعة وسبل إنصاف للضحايا وعقوبات على الإساءة المتعمدة. قد تصبح خطوة xAI سابقة قانونية، لكنها ستبقي الأنظار كذلك على النظام الذي صممته الشركة.