وحدات NPU والمحركات العصبية
مسارات متخصصة تنفذ عمليات الموترات المتكررة بكفاءة.
الصعوبة غالبًا في إبقاء الأوزان قرب وحدات الحساب، لا في تسريع الضرب وحده.
عمليات ضرب وتجميع كثيرة.
شاهد ضرب المصفوفات
كل خرج حاصل ضرب نقطي لصف دخل وعمود أوزان. يعيد العتاد ذو البلاطات استخدام القيم بدل جلبها مرارًا.
حدود هذا النموذج
حساب صحيح صغير ودقيق. يعرض العملية، ولا يحاكي مصفوفة انقباضية دقيقة الدورات أو NPU حقيقية.
ما الذي يحدث في الداخل
ترجمة الرسم الحسابي إلى عمليات مدعومة
يقسم نظام تشغيل NPU رسم النموذج، ويختار العمليات وصيغ الدقة المدعومة، ويخطط المخازن. قد تنتقل العمليات غير المدعومة إلى CPU أو GPU. جودة المترجم والأشكال المدعومة تحددان فائدة الشريحة لنموذجك.
إعادة استخدام الموترات داخل الشريحة
يجمع محرّك الموترات غالبًا مصفوفات ضرب وتجميع مع SRAM محلية ومحركات DMA ووحدات متجهية وعددية. تقسيم العمل إلى بلاطات يبقي الأوزان والتنشيطات المستخدمة مجددًا قريبة. المصفوفة الانقباضية أحد التصاميم، وليست شرطًا لكل NPU.
حساب الطلب كاملًا
تساهم المعالجة السابقة وتحويل النموذج والنقل والطبقات غير المدعومة وتجهيز الخرج في الزمن الكلي. التكميم الصحيح قد يقلل التخزين والطاقة، لكنه يحتاج معايرة وفحص الدقة. TOPS القصوى تصف صيغة عمليات معينة ضمن شروط محددة.
ما أثر ذلك في برنامجك
مهندس الأنظمة والعتاد
افحص تغطية العمليات وتخطيط الموترات والمحاذاة ومقاييس التكميم والمزامنة. قِس حدود الانتقال إلى أجهزة أخرى وكلفة النقل.
مطوّر البرمجيات
اختبر نموذجك الفعلي بدفعة من عينة واحدة وبالدفعات الكبيرة أيضًا. قارن الزمن والطاقة والدقة معًا؛ رسم TOPS لا يتنبأ بتجربة المستخدم.
اقرأ المواصفات الأصلية
توضح هذه المراجع العقود الأساسية وتفاصيل التنفيذ. الرسومات هنا نماذج تعليمية مبسطة.