flujo tensor:: operaciones:: SparseApplyFtrl
#include <training_ops.h>
Actualice las entradas relevantes en '*var' según el esquema Ftrl-proximal.
Resumen
Es decir, para las filas para las que tenemos grad, actualizamos var, accum y lineal de la siguiente manera:
$$accum_new = accum + grad * grad$$
$$linear += grad + (accum_{new}^{-lr_{power} } - accum^{-lr_{power} } / lr * var$$
$$quadratic = 1.0 / (accum_{new}^{lr_{power} } * lr) + 2 * l2$$
$$var = (sign(linear) * l1 - linear) / quadratic\ if\ |linear| > l1\ else\ 0.0$$
$$accum = accum_{new}$$
Argumentos:
- alcance: un objeto de alcance
- var: debe ser de una variable().
- accum: Debe ser de una Variable().
- lineal: debe ser de una variable ().
- grad: El gradiente.
- índices: Un vector de índices en la primera dimensión de var y accum.
- lr: Factor de escala. Debe ser un escalar.
- l1: regularización L1. Debe ser un escalar.
- l2: regularización L2. Debe ser un escalar.
- lr_power: factor de escala. Debe ser un escalar.
Atributos opcionales (ver Attrs
):
- use_locking: si es
True
, la actualización de los tensores var y accum estará protegida por un bloqueo; de lo contrario, el comportamiento no está definido, pero puede presentar menos contención.
Devoluciones:
-
Output
: Igual que "var".
Constructores y destructores | |
---|---|
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power) | |
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs) |
Atributos públicos | |
---|---|
operation | |
out |
Funciones públicas | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Funciones estáticas públicas | |
---|---|
MultiplyLinearByLr (bool x) | |
UseLocking (bool x) |
estructuras | |
---|---|
tensorflow:: operaciones:: SparseApplyFtrl:: Atributos | Configuradores de atributos opcionales para SparseApplyFtrl . |
Atributos públicos
operación
Operation operation
afuera
::tensorflow::Output out
Funciones públicas
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power )
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs )
nodo
::tensorflow::Node * node() const
operador::tensorflow::Entrada
operator::tensorflow::Input() const
operador::tensorflow::Salida
operator::tensorflow::Output() const
Funciones estáticas públicas
MultiplicarLinealPorLr
Attrs MultiplyLinearByLr( bool x )
UsoBloqueo
Attrs UseLocking( bool x )