केन्द्रित RMSProp एल्गोरिथम के अनुसार '*var' को अपडेट करें।
केंद्रित आरएमएसप्रॉप एल्गोरिथ्म सामान्यीकरण के लिए केंद्रित दूसरे क्षण (यानी, विचरण) के अनुमान का उपयोग करता है, नियमित आरएमएसप्रॉप के विपरीत, जो (अकेंद्रित) दूसरे क्षण का उपयोग करता है। यह अक्सर प्रशिक्षण में मदद करता है, लेकिन गणना और स्मृति के मामले में थोड़ा अधिक महंगा है।
ध्यान दें कि इस एल्गोरिथ्म के सघन कार्यान्वयन में, mg, ms, और mom अपडेट होंगे, भले ही ग्रेड शून्य हो, लेकिन इस विरल कार्यान्वयन में, mg, ms, और mom उन पुनरावृत्तियों में अपडेट नहीं होंगे, जिनके दौरान ग्रेड शून्य है।
माध्य_वर्ग = क्षय * माध्य_वर्ग + (1-क्षय) * ग्रेडिएंट ** 2 माध्य_ग्रेड = क्षय * माध्य_ग्रेड + (1-क्षय) * ग्रेडिएंट डेल्टा = सीखना_दर * ग्रेडिएंट / वर्ग (मीन_स्क्वायर + एप्सिलॉन - माध्य_ग्रेड ** 2)
एमएस <- आरएचओ * एमएस_{टी-1} + (1-आरएचओ) * ग्रेड * ग्रेड माँ <- गति * माँ_{टी-1} + एलआर * ग्रेड / एसक्यूआरटी (एमएस + एप्सिलॉन) वर <- वर - माँ
नेस्टेड क्लासेस
| कक्षा | रिसोर्सस्पार्सएप्लाईसेंटर्डआरएमएसप्रॉप.ऑप्शंस | ResourceSparseApplyCenteredRmsProp के लिए वैकल्पिक विशेषताएँ | |
स्थिरांक
| डोरी | OP_NAME | इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है |
सार्वजनिक तरीके
| स्थैतिक <टी टीटाइप का विस्तार करता है > रिसोर्सस्पार्सएप्लाईसेंटर्डआरएमएसप्रॉप | बनाएं ( स्कोप स्कोप, ऑपरेंड <?> वर, ऑपरेंड <?> एमजी, ऑपरेंड <?> एमएस, ऑपरेंड <?> मॉम, ऑपरेंड <टी> एलआर, ऑपरेंड <टी> आरएचओ, ऑपरेंड <टी> मोमेंटम, ऑपरेंड <टी > एप्सिलॉन, ऑपरेंड <टी> ग्रेड, ऑपरेंड <? एक्सटेंड्स टीएनंबर > सूचकांक, विकल्प... विकल्प) एक नए रिसोर्सस्पार्सएप्लाईसेंटर्डआरएमएसप्रॉप ऑपरेशन को लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि। |
| स्थैतिक रिसोर्सस्पार्सएप्लाईसेंटर्डआरएमएसप्रॉप.ऑप्शंस | यूज़लॉकिंग (बूलियन यूज़लॉकिंग) |
विरासत में मिली विधियाँ
स्थिरांक
सार्वजनिक स्थैतिक अंतिम स्ट्रिंग OP_NAME
इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है
सार्वजनिक तरीके
सार्वजनिक स्थैतिक संसाधनSparseApplyCenteredRmsProp बनाएँ ( स्कोप स्कोप, ऑपरेंड <?> var, ऑपरेंड <?> mg, ऑपरेंड <?> ms, ऑपरेंड <?> माँ, ऑपरेंड <T> lr, ऑपरेंड <T> rho, ऑपरेंड <T> गति, ऑपरेंड <टी> एप्सिलॉन, ऑपरेंड <टी> ग्रेड, ऑपरेंड <? एक्सटेंड्स टीएनंबर > इंडेक्स, विकल्प... विकल्प)
एक नए रिसोर्सस्पार्सएप्लाईसेंटर्डआरएमएसप्रॉप ऑपरेशन को लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि।
पैरामीटर
| दायरा | वर्तमान दायरा |
|---|---|
| वर | एक वेरिएबल() से होना चाहिए। |
| एमजी | एक वेरिएबल() से होना चाहिए। |
| एमएस | एक वेरिएबल() से होना चाहिए। |
| माँ | एक वेरिएबल() से होना चाहिए। |
| एलआर | मापन कारक। एक अदिश राशि होनी चाहिए. |
| रो | क्षय दर। एक अदिश राशि होनी चाहिए. |
| एप्सिलॉन | रिज शब्द. एक अदिश राशि होनी चाहिए. |
| ग्रैड | ढाल. |
| सूचकांक | var, ms और mom के पहले आयाम में सूचकांकों का एक वेक्टर। |
| विकल्प | वैकल्पिक गुण मान रखता है |
रिटर्न
- resourceSparseApplyCenteredRmsProp का एक नया उदाहरण
सार्वजनिक स्थैतिक संसाधनSparseApplyCenteredRmsProp.Options उपयोगलॉकिंग (बूलियन उपयोगलॉकिंग)
पैरामीटर
| लॉकिंग का उपयोग करें | यदि `सही` है, तो var, mg, ms और mom टेंसर का अद्यतनीकरण लॉक द्वारा सुरक्षित है; अन्यथा व्यवहार अपरिभाषित है, लेकिन कम विवाद प्रदर्शित कर सकता है। |
|---|