LSTMBlockCell kelas akhir publik
Menghitung propagasi maju sel LSTM untuk 1 langkah waktu.
Implementasi ini menggunakan 1 matriks bobot dan 1 vektor bias, serta terdapat sambungan lubang intip opsional.
Operasi kernel ini mengimplementasikan persamaan matematika berikut:
xh = [x, h_prev]
[i, f, ci, o] = xh * w + b
f = f + forget_bias
if not use_peephole:
wci = wcf = wco = 0
i = sigmoid(cs_prev * wci + i)
f = sigmoid(cs_prev * wcf + f)
ci = tanh(ci)
cs = ci .* i + cs_prev .* f
cs = clip(cs, cell_clip)
o = sigmoid(cs * wco + o)
co = tanh(cs)
h = co .* o
Kelas Bersarang
kelas | LSTMBlockCell.Opsi | Atribut opsional untuk LSTMBlockCell |
Metode Publik
LSTMBlockCell.Options statis | klip sel (Klip sel mengambang) |
Keluaran <T> | ci () Masukan sel. |
Keluaran <T> | bersama () Sel setelah tanh. |
statis <T memperluas Nomor> LSTMBlockCell <T> | |
Keluaran <T> | cs () Keadaan sel sebelum tanh. |
Keluaran <T> | F () Gerbang lupa. |
LSTMBlockCell.Options statis | lupaBias (Mengambang lupaBias) |
Keluaran <T> | H () Vektor keluaran h. |
Keluaran <T> | Saya () Gerbang masukan. |
Keluaran <T> | o () Gerbang keluaran. |
LSTMBlockCell.Options statis | usePeephole (penggunaan BooleanPeephole) |
Metode Warisan
Metode Publik
LSTMBlockCell.Options statis publik cellClip (Float cellClip)
Parameter
klip sel | Nilai untuk memotong nilai 'cs'. |
---|
public static LSTMBlockCell <T> buat ( Lingkup lingkup , Operand <T> x, Operand <T> csPrev, Operand <T> hPrev, Operand <T> w, Operand <T> wci, Operand <T> wcf, Operand <T > wco, Operan <T> b, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi LSTMBlockCell baru.
Parameter
cakupan | ruang lingkup saat ini |
---|---|
X | Input ke sel LSTM, bentuk (batch_size, num_inputs). |
csSebelumnya | Nilai status sel pada langkah waktu sebelumnya. |
hSebelumnya | Output sel sebelumnya pada langkah waktu sebelumnya. |
w | Matriks bobot. |
wci | Matriks bobot untuk sambungan lubang intip gerbang masukan. |
wcf | Matriks bobot untuk sambungan lubang intip gerbang lupa. |
wco | Matriks bobot untuk sambungan lubang intip gerbang keluaran. |
B | Vektor bias. |
pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru LSTMBlockCell
LSTMBlockCell.Options statis publik forgetBias (Float forgetBias)
Parameter
lupakan Bias | Bias gerbang lupa. |
---|
LSTMBlockCell statis publik. Opsi usePeephole (Boolean usePeephole)
Parameter
gunakan Lubang Intip | Apakah akan menggunakan pemberat lubang intip. |
---|