przepływ tensorowy:: ops:: SparseApplyFtrl
#include <training_ops.h>
Zaktualizuj odpowiednie wpisy w „*var” zgodnie ze schematem Ftrl-proximal.
Streszczenie
Oznacza to, że dla wierszy, dla których mamy grad, aktualizujemy var, accum i linear w następujący sposób:
$$accum_new = accum + grad * grad$$
$$linear += grad + (accum_{new}^{-lr_{power} } - accum^{-lr_{power} } / lr * var$$
$$quadratic = 1.0 / (accum_{new}^{lr_{power} } * lr) + 2 * l2$$
$$var = (sign(linear) * l1 - linear) / quadratic\ if\ |linear| > l1\ else\ 0.0$$
$$accum = accum_{new}$$
Argumenty:
- zakres: Obiekt Scope
- var: Powinien pochodzić ze zmiennej ().
- accum: Powinien pochodzić ze zmiennej ().
- liniowy: powinien pochodzić ze zmiennej ().
- grad: gradient.
- indeksy: wektor indeksów do pierwszego wymiaru var i accum.
- lr: Współczynnik skalowania. Musi być skalarem.
- l1: Regularyzacja L1. Musi być skalarem.
- l2: Regularyzacja L2. Musi być skalarem.
- lr_power: Współczynnik skalowania. Musi być skalarem.
Opcjonalne atrybuty (patrz Attrs
):
- use_locking: Jeśli
True
, aktualizacja tensorów var i accum będzie chroniona blokadą; w przeciwnym razie zachowanie jest niezdefiniowane, ale może wykazywać mniejszą rywalizację.
Zwroty:
-
Output
: takie same jak „var”.
Konstruktory i destruktory | |
---|---|
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power) | |
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs) |
Atrybuty publiczne | |
---|---|
operation | |
out |
Funkcje publiczne | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Publiczne funkcje statyczne | |
---|---|
MultiplyLinearByLr (bool x) | |
UseLocking (bool x) |
Struktury | |
---|---|
tensorflow:: ops:: SparseApplyFtrl:: Attrs | Opcjonalne moduły ustawiające atrybuty dla SparseApplyFtrl . |
Atrybuty publiczne
działanie
Operation operation
na zewnątrz
::tensorflow::Output out
Funkcje publiczne
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power )
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs )
węzeł
::tensorflow::Node * node() const
operator::tensorflow::Wejście
operator::tensorflow::Input() const
operator::tensorflow::Wyjście
operator::tensorflow::Output() const
Publiczne funkcje statyczne
PomnóżLiniowoPrzezLr
Attrs MultiplyLinearByLr( bool x )
Użyj Blokowania
Attrs UseLocking( bool x )