CudnnRNNBackprop

CudnnRNNV3 का बैकप्रॉप चरण।

आरएनएन में डेटा और वज़न दोनों के बैकप्रॉप की गणना करें। CudnnRNNBackprop की तुलना में अतिरिक्त "अनुक्रम_लंबाई" इनपुट लेता है।

rnn_mode: RNN मॉडल के प्रकार को इंगित करता है। इनपुट_मोड: इंगित करता है कि पहली परत से पहले इनपुट और वास्तविक गणना के बीच एक रैखिक प्रक्षेपण है या नहीं। 'स्किप_इनपुट' की अनुमति केवल तभी होती है जब इनपुट_साइज़ == num_units; 'ऑटो_सेलेक्ट' का तात्पर्य 'स्किप_इनपुट' से है जब इनपुट_साइज़ == num_units; अन्यथा, इसका तात्पर्य 'रैखिक_इनपुट' है। दिशा: इंगित करता है कि क्या द्विदिश मॉडल का उपयोग किया जाएगा। "यूनिडायरेक्शनल" या "द्विदिशात्मक" होना चाहिए। ड्रॉपआउट: ड्रॉपआउट संभावना. जब 0 पर सेट किया जाता है, तो ड्रॉपआउट अक्षम हो जाता है। बीज: ड्रॉपआउट आरंभ करने के लिए बीज का पहला भाग। बीज 2: ड्रॉपआउट प्रारंभ करने के लिए बीज का दूसरा भाग। इनपुट: यदि टाइम_मेजर सत्य है, तो यह [seq_length, बैच_साइज, इनपुट_साइज] के आकार वाला एक 3-डी टेंसर है। यदि टाइम_मेजर गलत है, तो आकार [बैच_साइज, सीक_लेंथ, इनपुट_साइज] है। इनपुट_एच: यदि टाइम_मेजर सत्य है, तो यह [num_layer * dir, Batch_size, num_units] के आकार वाला एक 3-डी टेंसर है। यदि टाइम_मेजर गलत है, तो आकार [बैच_साइज, नंबर_लेयर * डीआईआर, नंबर_यूनिट्स] है। इनपुट_सी: एलएसटीएम के लिए, [num_layer * dir, Batch, num_units] आकार वाला एक 3-डी टेंसर। अन्य मॉडलों के लिए, इसे नजरअंदाज कर दिया जाता है। पैरामीटर्स: एक 1-डी टेंसर जिसमें एक अपारदर्शी लेआउट में वजन और पूर्वाग्रह शामिल होते हैं। आकार CudnnRNNParamsSize के माध्यम से बनाया जाना चाहिए, और अलग से प्रारंभ किया जाना चाहिए। ध्यान दें कि वे विभिन्न पीढ़ियों में संगत नहीं हो सकते हैं। इसलिए अनुक्रम_लंबाई को सहेजना और पुनर्स्थापित करना एक अच्छा विचार है: प्रत्येक इनपुट अनुक्रम की लंबाई का एक वेक्टर। आउटपुट: यदि टाइम_मेजर सत्य है, तो यह [seq_length, Batch_size, dir * num_units] आकार वाला एक 3-डी टेंसर है। यदि टाइम_मेजर गलत है, तो आकार [बैच_साइज, सीक_लेंथ, डीआईआर * num_units] है। आउटपुट_एच: इनपुट_एच का आकार समान है। आउटपुट_सी: एलएसटीएम के लिए इनपुट_सी के समान आकार। अन्य मॉडलों के लिए एक खाली टेंसर। आउटपुट_बैकप्रॉप: फॉरवर्ड पास में आउटपुट के समान आकार वाला एक 3-डी टेंसर। आउटपुट_एच_बैकप्रॉप: फॉरवर्ड पास में आउटपुट_एच के समान आकार वाला एक 3-डी टेंसर। आउटपुट_सी_बैकप्रॉप: फॉरवर्ड पास में आउटपुट_सी के समान आकार वाला एक 3-डी टेंसर। टाइम_मेजर: इंगित करता है कि इनपुट/आउटपुट प्रारूप टाइम मेजर है या बैच मेजर। रिज़र्व_स्पेस: फॉरवर्ड ऑपरेशन में वही रिज़र्व_स्पेस उत्पन्न होता है। इनपुट_बैकप्रॉप: फॉरवर्ड पास में इनपुट के लिए बैकप्रॉप। इनपुट के समान आकार है. इनपुट_एच_बैकप्रॉप: फॉरवर्ड पास में इनपुट_एच का बैकप्रॉप। इनपुट_एच के समान आकार है। इनपुट_सी_बैकप्रॉप: फॉरवर्ड पास में इनपुट_सी का बैकप्रॉप। इसका आकार इनपुट_सी जैसा ही है। पैराम्स_बैकप्रॉप: फॉरवर्ड पास में पैराम्स बफ़र का बैकप्रॉप। पैरामीटर्स के समान आकार है।