Entri pembaruan yang jarang di '*var' dan '*accum' menurut algoritma FOBOS.
Itu untuk baris yang memiliki grad, kami memperbarui var dan accum sebagai berikut: accum += grad grad prox_v = var prox_v -= lr grad (1 / sqrt(accum)) var = sign(prox_v)/(1+lr l2 ) maks{|prox_v|-lr l1,0}
Kelas Bersarang
kelas | ResourceSparseApplyProximalAdagrad.Options | Atribut opsional untuk ResourceSparseApplyProximalAdagrad |
Konstanta
Rangkaian | OP_NAME | Nama operasi ini dikenal dengan mesin inti TensorFlow |
Metode Publik
statis <T memperluas TType > ResourceSparseApplyProximalAdagrad | |
ResourceSparseApplyProximalAdagrad.Options statis | useLocking (penguncian penggunaan Boolean) |
Metode Warisan
Konstanta
String akhir statis publik OP_NAME
Nama operasi ini dikenal dengan mesin inti TensorFlow
Metode Publik
public static ResourceSparseApplyProximalAdagrad buat ( Ruang lingkup, Operan <?> var, Operan <?> accum, Operan <T> lr, Operan <T> l1, Operan <T> l2, Operan <T> grad, Operan <? extends TNumber > indeks, Opsi... opsi)
Metode pabrik untuk membuat kelas yang membungkus operasi ResourceSparseApplyProximalAdagrad baru.
Parameter
cakupan | ruang lingkup saat ini |
---|---|
var | Harus dari Variabel(). |
akumulasi | Harus dari Variabel(). |
lr | Kecepatan pembelajaran. Pasti skalar. |
l1 | Regularisasi L1. Pasti skalar. |
l2 | Regularisasi L2. Pasti skalar. |
lulusan | Gradien. |
indeks | Vektor indeks ke dalam dimensi pertama var dan accum. |
pilihan | membawa nilai atribut opsional |
Kembali
- contoh baru ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad.Options statis publik useLocking (Boolean useLocking)
Parameter
gunakan Penguncian | Jika Benar, pembaruan tensor var dan accum akan dilindungi oleh kunci; jika tidak, perilaku tersebut tidak terdefinisikan, namun mungkin menunjukkan lebih sedikit pertentangan. |
---|