tensor akışı:: işlem:: SparseApplyFtrl
#include <training_ops.h>
'*var' içindeki ilgili girişleri Ftrl-proximal şemasına göre güncelleyin.
Özet
Yani, derecelendirdiğimiz satırlar için var, accum ve lineer'ı aşağıdaki gibi güncelliyoruz:
$$accum_new = accum + grad * grad$$
$$linear += grad + (accum_{new}^{-lr_{power} } - accum^{-lr_{power} } / lr * var$$
$$quadratic = 1.0 / (accum_{new}^{lr_{power} } * lr) + 2 * l2$$
$$var = (sign(linear) * l1 - linear) / quadratic\ if\ |linear| > l1\ else\ 0.0$$
$$accum = accum_{new}$$
Argümanlar:
- kapsam: Bir Kapsam nesnesi
- var: Bir Variable()'dan olmalıdır.
- accum: Bir Variable()'dan olmalıdır.
- doğrusal: Bir Değişken()'den olmalıdır.
- grad: Gradyan.
- indeksler: var ve accum'un ilk boyutuna ait indekslerin bir vektörü.
- lr: Ölçeklendirme faktörü. Bir skaler olmalı.
- l1: L1 düzenlemesi. Bir skaler olmalı.
- l2: L2 düzenlemesi. Bir skaler olmalı.
- lr_power: Ölçekleme faktörü. Bir skaler olmalı.
İsteğe bağlı özellikler (bkz. Attrs
):
- use_locking:
True
ise, var ve accum tensörlerinin güncellenmesi bir kilitle korunacaktır; aksi takdirde davranış tanımsızdır ancak daha az çekişme sergileyebilir.
İade:
-
Output
: "var" ile aynı.
Yapıcılar ve Yıkıcılar | |
---|---|
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power) | |
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs) |
Genel özellikler | |
---|---|
operation | |
out |
Kamu işlevleri | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Genel statik işlevler | |
---|---|
MultiplyLinearByLr (bool x) | |
UseLocking (bool x) |
Yapılar | |
---|---|
tensorflow:: ops:: SparseApplyFtrl:: Öznitelikler | SparseApplyFtrl için isteğe bağlı öznitelik ayarlayıcılar. |
Genel özellikler
operasyon
Operation operation
dışarı
::tensorflow::Output out
Kamu işlevleri
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power )
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs )
düğüm
::tensorflow::Node * node() const
operatör::tensorflow::Giriş
operator::tensorflow::Input() const
operatör::tensorflow::Çıktı
operator::tensorflow::Output() const
Genel statik işlevler
DoğrusalByLr ile Çarpın
Attrs MultiplyLinearByLr( bool x )
KullanımKilitleme
Attrs UseLocking( bool x )