مصطلح تقني
مزيج الخبراء المتناثر (Sparse MoE)
بنية لشبكة عصبية تضم وحدات خبيرة متعددة، لكنها تفعّل جزءا صغيرا منها فقط لكل رمز إدخال، ما يزيد السعة الكلية من دون استخدام جميع المعاملات في كل عملية حسابية.
بالإنجليزية
Sparse Mixture of Experts
بالعربية
مزيج الخبراء المتناثر
ظهر أول مرة في
ميسترال تنشر أوزان Large 4 وتضع قدراته السيبرانية أمام الاختبار