قم بتحديث الإدخالات ذات الصلة في '*var' و'*accum' وفقًا لمخطط الزخم.
اضبط use_nesterov = True إذا كنت تريد استخدام زخم Nesterov.
هذا بالنسبة للصفوف التي لدينا grad لها، نقوم بتحديث var وaccum على النحو التالي:
$$accum = accum * momentum + grad$$$$var -= lr * accum$$
فئات متداخلة
فصل | SparseApplyMomentum.Options | السمات الاختيارية لـ SparseApplyMomentum |
الثوابت
خيط | OP_NAME | اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي |
الأساليب العامة
الإخراج <T> | كإخراج () إرجاع المقبض الرمزي للموتر. |
ثابت <T يمتد TType > SparseApplyMomentum <T> | |
الإخراج <T> | خارج () نفس "فار". |
ثابت SparseApplyMomentum.Options | useLocking (استخدام منطقي منطقي) |
ثابت SparseApplyMomentum.Options | استخدام نيستيروف (استخدام منطقي نيستيروف) |
الطرق الموروثة
الثوابت
السلسلة النهائية الثابتة العامة OP_NAME
اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي
الأساليب العامة
الإخراج العام <T> كإخراج ()
إرجاع المقبض الرمزي للموتر.
المدخلات إلى عمليات TensorFlow هي مخرجات عملية TensorFlow أخرى. يتم استخدام هذه الطريقة للحصول على مقبض رمزي يمثل حساب الإدخال.
إنشاء SparseApplyMomentum <T> ثابت عام (نطاق النطاق ، المعامل <T> var، المعامل <T> تراكم، المعامل <T> lr، المعامل <T> grad، المعامل <؟ يمتد TNumber > المؤشرات، زخم المعامل <T>، الخيارات ... خيارات)
طريقة المصنع لإنشاء فئة تغلف عملية SparseApplyMomentum جديدة.
حدود
نِطَاق | النطاق الحالي |
---|---|
فار | يجب أن يكون من متغير (). |
تراكم | يجب أن يكون من متغير (). |
lr | معدل التعلم. يجب أن يكون العددية. |
خريج | التدرج. |
المؤشرات | متجه للمؤشرات في البعد الأول من var وaccum. |
دَفعَة | دَفعَة. يجب أن يكون العددية. |
خيارات | يحمل قيم السمات الاختيارية |
المرتجعات
- مثيل جديد من SparseApplyMomentum
SparseApplyMomentum.Options العام الثابت useLocking (المنطقي useLocking)
حدود
useLocking | إذا كان "صحيحًا"، فسيتم حماية تحديث موترتي var وaccum بواسطة قفل؛ وإلا فإن السلوك غير محدد، ولكنه قد يحمل قدرًا أقل من الخلاف. |
---|
ثابت عام SparseApplyMomentum.Options useNesterov (المنطقية useNesterov)
حدود
استخدم نيستيروف | إذا كان "صحيحًا"، فإن الموتر الذي تم تمريره لحساب الدرجة سيكون var - lr * Momentum * accum، لذا في النهاية، فإن var الذي تحصل عليه هو في الواقع var - lr * Momentum * accum. |
---|