SparseApplyRmsProp

kelas akhir publik SparseApplyRmsProp

Perbarui '*var' sesuai dengan algoritma RMSProp.

Perhatikan bahwa dalam penerapan algoritma ini yang padat, ms dan mom akan memperbarui meskipun gradasinya nol, tetapi dalam implementasi yang jarang ini, ms dan mom tidak akan memperbarui dalam iterasi yang gradannya nol.

mean_square = peluruhan * mean_square + (1-decay) * gradien ** 2 Delta = learning_rate * gradien / sqrt(mean_square + epsilon)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$

Kelas Bersarang

kelas SparseApplyRmsProp.Options Atribut opsional untuk SparseApplyRmsProp

Konstanta

Rangkaian OP_NAME Nama operasi ini dikenal dengan mesin inti TensorFlow

Metode Publik

Keluaran <T>
sebagai Keluaran ()
Mengembalikan pegangan simbolis tensor.
statis <T memperluas TType > SparseApplyRmsProp <T>
buat ( Lingkup lingkup , Operand <T> var, Operand <T> ms, Operand <T> mom, Operand <T> lr, Operand <T> rho, Operand <T> momentum, Operand <T> epsilon, Operand <T > lulusan, Operan <? extends TNumber > indeks, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi SparseApplyRmsProp baru.
Keluaran <T>
keluar ()
Sama seperti "var".
SparseApplyRmsProp.Options statis
useLocking (penguncian penggunaan Boolean)

Metode Warisan

Konstanta

String akhir statis publik OP_NAME

Nama operasi ini dikenal dengan mesin inti TensorFlow

Nilai Konstan: "SparseApplyRMSProp"

Metode Publik

Keluaran publik <T> sebagai Keluaran ()

Mengembalikan pegangan simbolis tensor.

Masukan ke operasi TensorFlow adalah keluaran dari operasi TensorFlow lainnya. Metode ini digunakan untuk mendapatkan pegangan simbolis yang mewakili perhitungan input.

public static SparseApplyRmsProp <T> buat ( Ruang lingkup , Operan <T> var, Operan <T> ms, Operan <T> mom, Operan <T> lr, Operan <T> rho, Operan <T> momentum, Operan <T > epsilon, Operan <T> lulusan, Operan <? extends TNumber > indeks, Opsi... opsi)

Metode pabrik untuk membuat kelas yang membungkus operasi SparseApplyRmsProp baru.

Parameter
cakupan ruang lingkup saat ini
var Harus dari Variabel().
MS Harus dari Variabel().
Mama Harus dari Variabel().
lr Faktor skala. Pasti skalar.
rho Tingkat pembusukan. Pasti skalar.
epsilon Istilah punggungan. Pasti skalar.
lulusan Gradien.
indeks Vektor indeks ke dalam dimensi pertama var, ms dan mom.
pilihan membawa nilai atribut opsional
Kembali
  • contoh baru dari SparseApplyRmsProp

Keluaran publik <T> keluar ()

Sama seperti "var".

SparseApplyRmsProp.Options statis publik useLocking (Boolean useLocking)

Parameter
gunakan Penguncian Jika `True`, pembaruan tensor var, ms, dan mom dilindungi oleh kunci; jika tidak, perilaku tersebut tidak terdefinisikan, namun mungkin menunjukkan lebih sedikit pertentangan.