CudnnRNNBackprop

ขั้นบันไดหลัง CudnnRNNV3.

คำนวณ backprop ของทั้งข้อมูลและน้ำหนักใน RNN รับอินพุต "sequence_lengths" เพิ่มเติมจาก CudnnRNNBackprop

rnn_mode: ระบุประเภทของโมเดล RNN input_mode: ระบุว่ามีการฉายภาพเชิงเส้นระหว่างอินพุตและการคำนวณจริงก่อนเลเยอร์แรกหรือไม่ อนุญาตให้ใช้ 'skip_input' เมื่อ input_size == num_units เท่านั้น 'auto_select' หมายถึง 'skip_input' เมื่อ input_size == num_units; มิฉะนั้นจะหมายถึง 'linear_input' ทิศทาง: ระบุว่าจะใช้โมเดลแบบสองทิศทางหรือไม่ ควรเป็น "ทิศทางเดียว" หรือ "สองทิศทาง" การออกกลางคัน: ความน่าจะเป็นของการออกกลางคัน เมื่อตั้งค่าเป็น 0 การออกกลางคันจะถูกปิดใช้งาน เมล็ด: ส่วนที่ 1 ของเมล็ดเพื่อเริ่มต้นการออกกลางคัน seed2: ส่วนที่ 2 ของเมล็ดเพื่อเริ่มต้นการออกกลางคัน อินพุต: หาก time_major เป็นจริง นี่คือเทนเซอร์ 3 มิติที่มีรูปร่างเป็น [seq_length, bat_size, input_size] หาก time_major เป็นเท็จ รูปร่างจะเป็น [batch_size, seq_length, input_size] input_h: หาก time_major เป็นจริง นี่คือเทนเซอร์ 3 มิติที่มีรูปร่างเป็น [num_layer * dir, bat_size, num_units] หาก time_major เป็นเท็จ รูปร่างจะเป็น [batch_size, num_layer * dir, num_units] input_c: สำหรับ LSTM เทนเซอร์ 3 มิติที่มีรูปร่างเป็น [num_layer * dir, batt, num_units] สำหรับรุ่นอื่นๆ จะถูกละเว้น params: เทนเซอร์ 1 มิติที่มีน้ำหนักและอคติในรูปแบบทึบแสง ต้องสร้างขนาดผ่าน CudnnRNNParamsSize และเตรียมใช้งานแยกกัน โปรดทราบว่าอาจใช้ไม่ได้กับรุ่นต่างๆ ดังนั้นจึงเป็นความคิดที่ดีที่จะบันทึกและกู้คืน sequence_lengths: เวกเตอร์ของความยาวของลำดับอินพุตแต่ละลำดับ เอาท์พุต: หาก time_major เป็นจริง นี่คือเทนเซอร์ 3 มิติที่มีรูปร่างเป็น [seq_length, bat_size, dir * num_units] หาก time_major เป็นเท็จ รูปร่างจะเป็น [batch_size, seq_length, dir * num_units] output_h: รูปร่างเดียวกันมี input_h output_c: รูปร่างเดียวกันกับ input_c สำหรับ LSTM เทนเซอร์เปล่าสำหรับรุ่นอื่นๆ output_backprop: เทนเซอร์ 3 มิติที่มีรูปร่างเหมือนกับเอาต์พุตในการส่งต่อ output_h_backprop: เทนเซอร์ 3 มิติที่มีรูปร่างเหมือนกับ output_h ในการส่งต่อ output_c_backprop: เทนเซอร์ 3 มิติที่มีรูปร่างเหมือนกับ output_c ในการส่งต่อ time_major: ระบุว่ารูปแบบอินพุต/เอาต์พุตเป็นเวลาหลักหรือแบทช์หลัก Reserve_space: Reserve_space เดียวกันที่สร้างขึ้นในการดำเนินการส่งต่อ input_backprop: backprop ที่จะป้อนข้อมูลในการส่งต่อ มีรูปร่างเหมือนกับอินพุต input_h_backprop: backprop ไปยัง input_h ในการส่งต่อ มีรูปร่างเหมือนกับ input_h input_c_backprop: backprop ไปยัง input_c ในการส่งต่อ มีรูปร่างเหมือนกับ input_c params_backprop: backprop ไปยังบัฟเฟอร์ params ในการส่งต่อ มีรูปร่างเหมือนกับพาราม