الخلاصة السريعة
يجلب المعالج المدخلات من الذاكرة ويحسب ثم يعيد النتائج. قد تجري العملية الحسابية في دارة صغيرة محلية، بينما تعبر البيانات المخابئ وشبكة الرقاقة ومتحكم الذاكرة وذاكرة خارجية. يستهلك شحن الأسلاك وتنشيط الذاكرة طاقة، ولذلك قد يكلف نقل القيمة أكثر من الحساب المنفذ عليها.
لماذا يستهلك السلك طاقة؟
يشحن الانتقال الرقمي السعة الكهربائية في الترانزستورات والوصلات أو يفرغها. تزداد الطاقة مع السعة ومربع الجهد. تحمل الأسلاك الأطول والبنى الأكبر سعة أعلى عادة، وقد تحتاج مقويات للإشارة. وتضيف الساعة والتحكم والتسرب كلفة حتى عندما لا تتغير بيانات مفيدة.
هرم الذاكرة
تقع السجلات والمخابئ الصغيرة قرب وحدات الحساب، فتكون سريعة ومحدودة. تأتي مخابئ أكبر على مسافة أبعد، ثم توفر ذاكرة DRAM السعة خارج المعالج، ويأتي التخزين بعدها. تقايض كل طبقة السعة والكلفة بالزمن والطاقة. يعيد البرنامج الجيد استخدام البيانات محلياً حتى تخدم عملية النقل المكلفة حسابات كثيرة.
لماذا يكشف الذكاء الاصطناعي الاختناق؟
تنفذ أحمال الذكاء الاصطناعي عمليات كثيرة على مصفوفات ضخمة من الأوزان والتنشيطات. توفر المسرعات قدرة حساب هائلة، لكنها تنتظر إذا لم تصل البيانات بسرعة. تحاول الذاكرة عريضة النطاق والروابط الأوسع والضغط واستغلال القيم الصفرية وتقسيم العمل تغذية الوحدات مع خفض النقل.
الحساب قرب الذاكرة أو داخلها
تضع الحوسبة القريبة معالجات بجوار الذاكرة لتقصير الروابط. أما المعالجة داخل الذاكرة فتنفذ عمليات مختارة ضمن المصفوفة أو بمحاذاتها. قد تجمع المقاربة التناظرية التيارات فيزيائياً لتنفيذ ضرب المصفوفات، فيما تضع المقاربة الرقمية منطقاً تقليدياً قرب بنوك الذاكرة.
المقايضات
صممت تقنيات الذاكرة للتخزين لا لكل حساب. قد تواجه الأنظمة الداخلية دقة محدودة وتفاوت الأجهزة وكلفة التحويل وعمليات مقيدة. كما تصبح البرمجة والجدولة واتساق البيانات أصعب. ينجح التخصص فقط إذا فاق وفر النقل هذه التكاليف.
تدقيق الواقع
عبارة «النقل أغلى من الحساب» تعتمد على العبء والتقنية وليست ثابتاً عالمياً. تختلف الطاقة باختلاف الرقاقة والجهد وطبقة الذاكرة ونوع البيانات ونمط الوصول. ولا تكشف ذروة العمليات في الثانية كفاءة تطبيق حقيقي أو وقت انتظار العتاد.
كيف تقيم ادعاء الكفاءة؟
ابحث عن طاقة المهمة المكتملة والدقة وسعة الذاكرة ونسبة التشغيل وقياس يشمل التحويل والنقل الخارجي. وقارن بخط أساس قوي على تقنية تصنيع وعبء متماثلين. تهم نتيجة النظام الكامل أكثر من مصفوفة معزولة تبدو فائقة الكفاءة.
