CluSTER تقلص زمن تخصيص الذكاء الاصطناعي باختيار ما تتعلمه كل وحدة رسومية

لا يعتمد تخصيص نموذج لغوي كبير على عدد الأمثلة التي يراها فقط، بل أيضا على مقدار ما تضيفه هذه الأمثلة من إشارات تعلم مختلفة، وعلى عدالة توزيعها بين المعالجات المتوازية. ويقول فريق من المعهد الكوري المتقدم للعلوم والتكنولوجيا، كايست، إن منهجيته الجديدة CluSTER تستطيع تقليل التكرار في هذه العملية من دون إضعاف ملموس لأداء النموذج الناتج.

أعلنت كايست العمل في 2 نوفمبر 2026 بعد عرضه في مؤتمر EMNLP 2026. وتصف الورقة المحكمة إطارا يجمع أمثلة التدريب وفق تمثيلات مختصرة لأثر كل مثال في تعلم النموذج المستهدف، بدلا من الاكتفاء بتشابه الكلمات أو الموضوعات.

كيف تغير CluSTER التدريب المتوازي

تقسم عمليات التخصيص الكبيرة الدفعات عادة بين عدة وحدات معالجة رسومية. وقد يؤدي التوزيع العشوائي إلى معالجة عدة وحدات لأمثلة تعلم النموذج الشيء نفسه تقريبا، بينما تحصل الأنماط النادرة والمفيدة على تغطية أقل. تبدأ CluSTER بتجميع الأمثلة بحسب آثارها القائمة على التدرجات، ثم تختار عينات من المجموعات وتوزعها بحيث تتعامل كل وحدة مع مزيج أكثر تنوعا. كما تستخدم تحديثات موزونة للحفاظ على نسب مجموعات البيانات الأصلية.

لا تتمثل الفكرة الأساسية في الاستغناء عن العتاد، بل في جعل وحدات المعالجة الرسومية الحالية تقضي وقتا أقل في تكرار العمل نفسه.

اختبر الباحثون نماذج تضم نحو 7 مليارات و13 مليار معامل على ثلاث مجموعات بيانات لتخصيص التعليمات في توليد الشفرة والإجابة عن الأسئلة الطبية، وباستخدام ثمانية مقاييس تقييم. ووفقا لكايست، حافظت النماذج على أداء قريب من الأصل عند التدريب على نحو 31% من البيانات الكاملة، بينما بلغ أكبر خفض معلن لزمن التدريب 69.6%. وهذا يعني أن مهمة تستغرق عشر ساعات قد تنخفض إلى نحو ثلاث ساعات في أفضل حالة مختبرة. وأجريت معظم التجارب على أربع وحدات معالجة رسومية، مع اختبارات إضافية على ثماني وحدات.

وفر الباحثون أيضا مستودع الشفرة الرسمي، ما يتيح للفرق الأخرى فحص المنهجية ومحاولة إعادة إنتاج النتائج. وإذا ثبتت المكاسب على عائلات نماذج أكثر وعناقيد حوسبة أكبر، فقد تخفض تكلفة تكييف النماذج لمجالات متخصصة. وتزداد أهمية ذلك مع إتاحة أنظمة مفتوحة الأوزان مثل Mistral Large 4، إذ يبقى على المستخدم تحمل تكلفة التخصيص.

ما الخطوة التالية؟

سيكون الاختبار الأقوى هو إعادة إنتاج مستقلة للنتائج على عائلات أحدث من النماذج ومهام أوسع، مع نشر زمن المعالجة المسبقة واستهلاك الذاكرة والطاقة وجودة النموذج النهائية. كما ستوضح المقارنات مع أساليب أبسط لإزالة التكرار وتقليص البيانات مقدار الفائدة التي تأتي تحديدا من التوزيع الواعي بالمعالجات. وحتى الآن، تقدم الدراسة دليلا معقولا على أن تحسين جدولة البيانات قد يكون مسارا آخر لرفع كفاءة الذكاء الاصطناعي إلى جانب النماذج الأصغر والتكميم والعتاد الأسرع.