RMSProp एल्गोरिथम के अनुसार '*var' को अपडेट करें।
ध्यान दें कि इस एल्गोरिथ्म के सघन कार्यान्वयन में, एमएस और मॉम अपडेट होंगे, भले ही ग्रेड शून्य हो, लेकिन इस विरल कार्यान्वयन में, एमएस और मॉम उन पुनरावृत्तियों में अपडेट नहीं होंगे, जिनके दौरान ग्रेड शून्य है।
माध्य_वर्ग = क्षय * माध्य_वर्ग + (1-क्षय) * ग्रेडिएंट ** 2 डेल्टा = सीखने की दर * ग्रेडिएंट / वर्ग(मीन_स्क्वायर + एप्सिलॉन)
एमएस <- आरएचओ * एमएस_{टी-1} + (1-आरएचओ) * ग्रेड * ग्रेड माँ <- गति * माँ_{टी-1} + एलआर * ग्रेड / एसक्यूआरटी (एमएस + एप्सिलॉन) वर <- वर - माँ
नेस्टेड क्लासेस
कक्षा | रिसोर्सएप्लाईआरएमएसप्रॉप.ऑप्शंस | ResourceApplyRmsProp के लिए वैकल्पिक विशेषताएँ |
स्थिरांक
डोरी | OP_NAME | इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है |
सार्वजनिक तरीके
स्थिर <T टीटाइप का विस्तार करता है > resourceApplyRmsProp | |
स्थिर संसाधनApplyRmsProp.Options | यूज़लॉकिंग (बूलियन यूज़लॉकिंग) |
विरासत में मिली विधियाँ
स्थिरांक
सार्वजनिक स्थैतिक अंतिम स्ट्रिंग OP_NAME
इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है
सार्वजनिक तरीके
सार्वजनिक स्थैतिक रिसोर्सएप्लाईआरएमएसप्रॉप बनाएं ( स्कोप स्कोप, ऑपरेंड <?> var, ऑपरेंड <?> एमएस, ऑपरेंड <?> मॉम, ऑपरेंड <T> एलआर, ऑपरेंड <T> rho, ऑपरेंड <T> मोमेंटम, ऑपरेंड <T> एप्सिलॉन, ऑपरेंड <टी> ग्रेड, विकल्प... विकल्प)
एक नए रिसोर्सएप्लाईआरएमएसप्रॉप ऑपरेशन को लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि।
पैरामीटर
दायरा | वर्तमान दायरा |
---|---|
वर | एक वेरिएबल() से होना चाहिए। |
एमएस | एक वेरिएबल() से होना चाहिए। |
माँ | एक वेरिएबल() से होना चाहिए। |
एलआर | मापन कारक। एक अदिश राशि होनी चाहिए. |
रो | क्षय दर। एक अदिश राशि होनी चाहिए. |
एप्सिलॉन | रिज शब्द. एक अदिश राशि होनी चाहिए. |
ग्रैड | ढाल. |
विकल्प | वैकल्पिक गुण मान रखता है |
रिटर्न
- resourceApplyRmsProp का एक नया उदाहरण
सार्वजनिक स्थैतिक संसाधनApplyRmsProp.Options उपयोगलॉकिंग (बूलियन उपयोगलॉकिंग)
पैरामीटर
लॉकिंग का उपयोग करें | यदि `सही` है, तो संस्करण, एमएस और मॉम टेंसर का अद्यतन एक लॉक द्वारा सुरक्षित है; अन्यथा व्यवहार अपरिभाषित है, लेकिन कम विवाद प्रदर्शित कर सकता है। |
---|