aliran tensor:: operasi:: ResourceSparseApplyKerasMomentum
Tetap teratur dengan koleksi
Simpan dan kategorikan konten berdasarkan preferensi Anda.
#include <training_ops.h>
Perbarui entri yang relevan di '*var' dan '*accum' sesuai dengan skema momentum.
Ringkasan
Tetapkan use_nesterov = True jika Anda ingin menggunakan momentum Nesterov.
Itu untuk baris yang memiliki grad, kami memperbarui var dan accum sebagai berikut:
akumulasi = akumulasi * momentum - lr * lulusan var += akumulasi
Argumen:
- ruang lingkup: Objek Lingkup
- var: Harus dari Variabel().
- accum: Harus dari Variabel().
- lr: Kecepatan pembelajaran. Pasti skalar.
- lulusan: Gradien.
- indeks: Vektor indeks ke dalam dimensi pertama var dan accum.
- momentum: Momentum. Pasti skalar.
Atribut opsional (lihat Attrs
):
- use_locking: Jika
True
, pembaruan tensor var dan accum akan dilindungi oleh kunci; jika tidak, perilaku tersebut tidak terdefinisikan, namun mungkin menunjukkan lebih sedikit pertentangan. - use_nesterov: Jika
True
, tensor yang diteruskan ke komputasi grad adalah var + momentum * accum, jadi pada akhirnya, var yang Anda dapatkan sebenarnya adalah var + momentum * accum.
Pengembalian:
-
Operation
yang dibuat
Konstruktor dan Destruktor | |
---|---|
ResourceSparseApplyKerasMomentum (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input momentum) | |
ResourceSparseApplyKerasMomentum (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input momentum, const ResourceSparseApplyKerasMomentum::Attrs & attrs) |
Fungsi publik | |
---|---|
operator::tensorflow::Operation () const |
Fungsi statis publik | |
---|---|
UseLocking (bool x) | |
UseNesterov (bool x) |
Struktur | |
---|---|
tensorflow:: ops:: ResourceSparseApplyKerasMomentum:: Attrs | Penyetel atribut opsional untuk ResourceSparseApplyKerasMomentum . |
Atribut publik
operasi
Operation operation
Fungsi publik
ResourceSparseApplyKerasMomentum
ResourceSparseApplyKerasMomentum(
const ::tensorflow::Scope & scope,
::tensorflow::Input var,
::tensorflow::Input accum,
::tensorflow::Input lr,
::tensorflow::Input grad,
::tensorflow::Input indices,
::tensorflow::Input momentum
)
ResourceSparseApplyKerasMomentum
ResourceSparseApplyKerasMomentum(
const ::tensorflow::Scope & scope,
::tensorflow::Input var,
::tensorflow::Input accum,
::tensorflow::Input lr,
::tensorflow::Input grad,
::tensorflow::Input indices,
::tensorflow::Input momentum,
const ResourceSparseApplyKerasMomentum::Attrs & attrs
)