केन्द्रित RMSProp एल्गोरिथम के अनुसार '*var' को अपडेट करें।
केंद्रित आरएमएसप्रॉप एल्गोरिथ्म सामान्यीकरण के लिए केंद्रित दूसरे क्षण (यानी, विचरण) के अनुमान का उपयोग करता है, नियमित आरएमएसप्रॉप के विपरीत, जो (अकेंद्रित) दूसरे क्षण का उपयोग करता है। यह अक्सर प्रशिक्षण में मदद करता है, लेकिन गणना और स्मृति के मामले में थोड़ा अधिक महंगा है।
ध्यान दें कि इस एल्गोरिथ्म के सघन कार्यान्वयन में, mg, ms, और mom अपडेट होंगे, भले ही ग्रेड शून्य हो, लेकिन इस विरल कार्यान्वयन में, mg, ms, और mom उन पुनरावृत्तियों में अपडेट नहीं होंगे, जिनके दौरान ग्रेड शून्य है।
माध्य_वर्ग = क्षय * माध्य_वर्ग + (1-क्षय) * ग्रेडिएंट ** 2 माध्य_ग्रेड = क्षय * माध्य_ग्रेड + (1-क्षय) * ग्रेडिएंट
डेल्टा = सीखने की दर * ग्रेडिएंट / वर्ग (मीन_स्क्वायर + एप्सिलॉन - मीन_ग्रेड ** 2)
एमजी <- आरएचओ * एमजी_{टी-1} + (1-आरएचओ) * ग्रेड एमएस <- आरएचओ * एमएस_{टी-1} + (1-आरएचओ) * ग्रेड * ग्रेड मॉम <- मोमेंटम * मॉम_{टी-1 } + एलआर * ग्रेड / एसक्यूआरटी (एमएस - एमजी * एमजी + एप्सिलॉन) वर <- वर - माँ
नेस्टेड क्लासेस
| कक्षा | रिसोर्सएप्लाईसेंटर्डआरएमएसप्रॉप.ऑप्शंस | ResourceApplyCenteredRmsProp के लिए वैकल्पिक विशेषताएँ | |
स्थिरांक
| डोरी | OP_NAME | इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है |
सार्वजनिक तरीके
| स्थिर <T टीटाइप का विस्तार करता है > रिसोर्सएप्लाईसेंटर्डआरएमएसप्रॉप | |
| स्थिर संसाधनApplyCenteredRmsProp.Options | यूज़लॉकिंग (बूलियन यूज़लॉकिंग) |
विरासत में मिली विधियाँ
स्थिरांक
सार्वजनिक स्थैतिक अंतिम स्ट्रिंग OP_NAME
इस ऑप का नाम, जैसा कि TensorFlow कोर इंजन द्वारा जाना जाता है
सार्वजनिक तरीके
सार्वजनिक स्थैतिक संसाधनApplyCenteredRmsProp बनाएँ ( स्कोप स्कोप, ऑपरेंड <?> var, ऑपरेंड <?> mg, ऑपरेंड <?> ms, ऑपरेंड <?> माँ, ऑपरेंड <T> lr, ऑपरेंड <T> rho, ऑपरेंड <T> गति, ऑपरेंड <टी> एप्सिलॉन, ऑपरेंड <टी> ग्रेड, विकल्प... विकल्प)
एक नए resourceApplyCenteredRmsProp ऑपरेशन को लपेटकर एक क्लास बनाने की फ़ैक्टरी विधि।
पैरामीटर
| दायरा | वर्तमान दायरा |
|---|---|
| वर | एक वेरिएबल() से होना चाहिए। |
| एमजी | एक वेरिएबल() से होना चाहिए। |
| एमएस | एक वेरिएबल() से होना चाहिए। |
| माँ | एक वेरिएबल() से होना चाहिए। |
| एलआर | मापन कारक। एक अदिश राशि होनी चाहिए. |
| रो | क्षय दर। एक अदिश राशि होनी चाहिए. |
| गति | संवेग पैमाना. एक अदिश राशि होनी चाहिए. |
| एप्सिलॉन | रिज शब्द. एक अदिश राशि होनी चाहिए. |
| ग्रैड | ढाल. |
| विकल्प | वैकल्पिक गुण मान रखता है |
रिटर्न
- resourceApplyCenteredRmsProp का एक नया उदाहरण
सार्वजनिक स्थैतिक संसाधनApplyCenteredRmsProp.Options उपयोगलॉकिंग (बूलियन उपयोगलॉकिंग)
पैरामीटर
| लॉकिंग का उपयोग करें | यदि `सही` है, तो var, mg, ms और mom टेंसर का अद्यतनीकरण लॉक द्वारा सुरक्षित है; अन्यथा व्यवहार अपरिभाषित है, लेकिन कम विवाद प्रदर्शित कर सकता है। |
|---|