tensor akışı:: işlem:: KaynakSparseApplyProximalAdagrad
#include <training_ops.h>
FOBOS algoritmasına göre '*var' ve '*accum' içindeki seyrek güncelleme girişleri.
Özet
Yani grad yaptığımız satırlar için var ve accum'u şu şekilde güncelliyoruz: accum += grad * grad prox_v = var prox_v -= lr * grad * (1 / sqrt(accum)) var =sign(prox_v)/(1 +lr*l2) * maksimum{|prox_v|-lr*l1,0}
Argümanlar:
- kapsam: Bir Kapsam nesnesi
- var: Bir Variable()'dan olmalıdır.
- accum: Bir Variable()'dan olmalıdır.
- lr: Öğrenme oranı. Bir skaler olmalı.
- l1: L1 düzenlemesi. Bir skaler olmalı.
- l2: L2 düzenlemesi. Bir skaler olmalı.
- grad: Gradyan.
- indeksler: var ve accum'un ilk boyutuna ait indekslerin bir vektörü.
İsteğe bağlı özellikler (bkz. Attrs
):
- use_locking: True ise, var ve accum tensörlerinin güncellenmesi bir kilitle korunacaktır; aksi takdirde davranış tanımsızdır ancak daha az çekişme sergileyebilir.
İade:
- oluşturulan
Operation
Yapıcılar ve Yıkıcılar | |
---|---|
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs) |
Genel özellikler | |
---|---|
operation |
Kamu işlevleri | |
---|---|
operator::tensorflow::Operation () const |
Genel statik işlevler | |
---|---|
UseLocking (bool x) |
Yapılar | |
---|---|
tensorflow:: ops:: ResourceSparseApplyProximalAdagrad:: Öznitelikler | ResourceSparseApplyProximalAdagrad için isteğe bağlı öznitelik ayarlayıcıları. |
Genel özellikler
operasyon
Operation operation
Kamu işlevleri
KaynakSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
KaynakSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs )
operatör::tensorflow::İşlem
operator::tensorflow::Operation() const
Genel statik işlevler
KullanımKilitleme
Attrs UseLocking( bool x )