NcclAllReduce

الطبقة النهائية العامة NcclAllReduce

مخرجات موتر يحتوي على التخفيض عبر جميع موترات الإدخال.

يُخرج موترًا يحتوي على التخفيض عبر جميع موترات الإدخال التي تم تمريرها إلى العمليات ضمن نفس "الاسم_المشترك".

يجب إنشاء الرسم البياني بحيث إذا تم تشغيل عملية واحدة بقيمة اسم_مشترك `c`، فسيتم تشغيل عمليات `num_devices` بقيمة اسم_مشترك `c`. سيؤدي الفشل في القيام بذلك إلى فشل إكمال تنفيذ الرسم البياني.

الإدخال: الإدخال لبيانات التخفيض: قيمة التخفيض عبر جميع أجهزة "num_devices". التخفيض: عملية التخفيض لأداء. num_devices: عدد الأجهزة المشاركة في هذا التخفيض. Shared_name: المعرف المشترك بين العمليات بنفس التخفيض.

الثوابت

خيط OP_NAME اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي

الأساليب العامة

الإخراج <T>
كإخراج ()
إرجاع المقبض الرمزي للموتر.
ثابت <T يمتد TNumber > NcclAllReduce <T>
إنشاء ( نطاق النطاق ، إدخال المعامل <T>، تقليل السلسلة، الأجهزة الطويلة، اسم السلسلة المشترك)
طريقة المصنع لإنشاء فئة تغلف عملية NcclAllReduce جديدة.
الإخراج <T>

الطرق الموروثة

الثوابت

السلسلة النهائية الثابتة العامة OP_NAME

اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي

القيمة الثابتة: "NcclAllReduce"

الأساليب العامة

الإخراج العام <T> كإخراج ()

إرجاع المقبض الرمزي للموتر.

المدخلات إلى عمليات TensorFlow هي مخرجات عملية TensorFlow أخرى. يتم استخدام هذه الطريقة للحصول على مقبض رمزي يمثل حساب الإدخال.

إنشاء NcclAllReduce <T> ثابت عام ( نطاق النطاق ، إدخال المعامل <T>، تقليل السلسلة، الأجهزة الطويلة، اسم السلسلة المشترك)

طريقة المصنع لإنشاء فئة تغلف عملية NcclAllReduce جديدة.

حدود
نِطَاق النطاق الحالي
عائدات
  • مثيل جديد من NcclAllReduce

بيانات الإخراج العامة <T> ()