ApplyAdam

kelas akhir publik ApplyAdam

Perbarui '*var' sesuai dengan algoritma Adam.

$$lr_t := \text{learning\_rate} * \sqrt{1 - beta_2^t} / (1 - beta_1^t)$$$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$$$variable := variable - lr_t * m_t / (\sqrt{v_t} + \epsilon)$$

Kelas Bersarang

kelas TerapkanAdam.Options Atribut opsional untuk ApplyAdam

Konstanta

Rangkaian OP_NAME Nama operasi ini dikenal dengan mesin inti TensorFlow

Metode Publik

Keluaran <T>
sebagai Keluaran ()
Mengembalikan pegangan simbolik tensor.
statis <T memperluas TType > ApplyAdam <T>
buat ( Lingkup lingkup , Operand <T> var, Operand <T> m, Operand <T> v, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T> beta1, Operand <T > beta2, Operan <T> epsilon, Operan <T> lulusan, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi ApplyAdam baru.
Keluaran <T>
keluar ()
Sama seperti "var".
ApplyAdam.Options statis
useLocking (penguncian penggunaan Boolean)
ApplyAdam.Options statis
useNesterov (Boolean useNesterov)

Metode Warisan

Konstanta

String akhir statis publik OP_NAME

Nama operasi ini dikenal dengan mesin inti TensorFlow

Nilai Konstan: "ApplyAdam"

Metode Publik

Keluaran publik <T> sebagai Keluaran ()

Mengembalikan pegangan simbolis tensor.

Masukan ke operasi TensorFlow adalah keluaran dari operasi TensorFlow lainnya. Metode ini digunakan untuk mendapatkan pegangan simbolis yang mewakili perhitungan input.

public static ApplyAdam <T> buat ( Lingkup lingkup , Operan <T> var, Operan <T> m, Operan <T> v, Operan <T> beta1Power, Operan <T> beta2Power, Operan <T> lr, Operan <T > beta1, Operan <T> beta2, Operan <T> epsilon, Operan <T> lulusan, Opsi... opsi)

Metode pabrik untuk membuat kelas yang membungkus operasi ApplyAdam baru.

Parameter
cakupan ruang lingkup saat ini
var Harus dari Variabel().
M Harus dari Variabel().
ay Harus dari Variabel().
beta1Kekuatan Pasti skalar.
beta2Kekuatan Pasti skalar.
lr Faktor skala. Pasti skalar.
beta1 Faktor momentum. Pasti skalar.
beta2 Faktor momentum. Pasti skalar.
epsilon Istilah punggungan. Pasti skalar.
lulusan Gradien.
pilihan membawa nilai atribut opsional
Kembali
  • contoh baru dari ApplyAdam

Keluaran publik <T> keluar ()

Sama seperti "var".

ApplyAdam.Options useLocking statis publik (Boolean useLocking)

Parameter
gunakan Penguncian Jika `True`, pembaruan tensor var, m, dan v akan dilindungi oleh kunci; jika tidak, perilaku tersebut tidak terdefinisikan, namun mungkin menunjukkan lebih sedikit pertentangan.

public static ApplyAdam.Options useNesterov (Boolean useNesterov)

Parameter
gunakanNesterov Jika `True`, gunakan pembaruan nesterov.