CudnnRNNBackprop

Bước backprop của CudnnRNNV3.

Tính toán backprop của cả dữ liệu và trọng số trong RNN. Nhận thêm đầu vào "sequence_lengths" hơn CudnnRNNBackprop.

rnn_mode: Cho biết loại mô hình RNN. input_mode: Cho biết liệu có phép chiếu tuyến tính giữa đầu vào và tính toán thực tế trước lớp đầu tiên hay không. 'skip_input' chỉ được phép khi input_size == num_units; 'auto_select' ngụ ý 'skip_input' khi input_size == num_units; mặt khác, nó ngụ ý 'tuyến tính_input'. hướng: Cho biết liệu mô hình hai chiều có được sử dụng hay không. Nên là "một chiều" hoặc "hai chiều". bỏ học: Xác suất bỏ học. Khi được đặt thành 0., tính năng bỏ học bị vô hiệu hóa. hạt giống: Phần đầu tiên của hạt giống để khởi tạo việc bỏ học. Seed2: Phần thứ 2 của hạt giống để khởi tạo dropout. đầu vào: Nếu time_major là đúng thì đây là tensor 3-D có hình dạng [seq_length, batch_size, input_size]. Nếu time_major sai thì hình dạng là [batch_size, seq_length, input_size]. input_h: Nếu time_major là đúng thì đây là tensor 3-D có hình dạng [num_layer * dir, batch_size, num_units]. Nếu time_major sai thì hình dạng là [batch_size, num_layer * dir, num_units]. input_c: Đối với LSTM, một tensor 3-D có hình dạng [num_layer * dir, batch, num_units]. Đối với các mô hình khác, nó bị bỏ qua. params: Tenxor 1-D chứa trọng số và độ lệch trong một bố cục mờ. Kích thước phải được tạo thông qua CudnnRNNParamsSize và được khởi tạo riêng. Lưu ý rằng chúng có thể không tương thích giữa các thế hệ khác nhau. Vì vậy, bạn nên lưu và khôi phục Sequ_lengths: một vectơ có độ dài của mỗi chuỗi đầu vào. đầu ra: Nếu time_major là đúng thì đây là tensor 3-D có hình dạng [seq_length, batch_size, dir * num_units]. Nếu time_major sai thì hình dạng là [batch_size, seq_length, dir * num_units]. đầu ra_h: Hình dạng tương tự có đầu vào_h. đầu ra_c: Hình dạng tương tự như đầu vào_c cho LSTM. Một tensor trống cho các mô hình khác. đầu ra_backprop: Một tensor 3-D có hình dạng giống như đầu ra trong quá trình chuyển tiếp. đầu ra_h_backprop: Một tensor 3-D có hình dạng tương tự như đầu ra_h trong chuyển tiếp. đầu ra_c_backprop: Một tensor 3-D có hình dạng giống như đầu ra_c trong chuyển tiếp. time_major: Cho biết định dạng đầu vào/đầu ra là thời gian chính hay theo đợt. Reserve_space: Reserve_space tương tự được tạo ra trong thao tác chuyển tiếp. input_backprop: Backprop để nhập vào trong quá trình chuyển tiếp. Có hình dạng giống như đầu vào. input_h_backprop: Phần hỗ trợ cho input_h trong lượt chuyển tiếp. Có hình dạng giống như input_h. input_c_backprop: Phần hỗ trợ cho input_c trong lượt chuyển tiếp. Có hình dạng giống như input_c. params_backprop: Backprop cho bộ đệm params trong lượt chuyển tiếp. Có hình dạng giống như params.