tensorflow :: ops :: SparseApplyFtrl
#include <training_ops.h>
Atualize as entradas relevantes em '* var' de acordo com o esquema Ftrl-proximal.
Resumo
Isso é para linhas para as quais temos grad, atualizamos var, Accum e linear da seguinte forma:
$$accum_new = accum + grad * grad$$
$$linear += grad + (accum_{new}^{-lr_{power} } - accum^{-lr_{power} } / lr * var$$
$$quadratic = 1.0 / (accum_{new}^{lr_{power} } * lr) + 2 * l2$$
$$var = (sign(linear) * l1 - linear) / quadratic\ if\ |linear| > l1\ else\ 0.0$$
$$accum = accum_{new}$$
Argumentos:
- escopo: um objeto Scope
- var: deve ser de uma variável ().
- acum: deve ser de uma variável ().
- linear: deve ser de uma variável ().
- grad: O gradiente.
- índices: Um vetor de índices na primeira dimensão de var e de acum.
- lr: Fator de escala. Deve ser um escalar.
- l1: regularização de L1. Deve ser um escalar.
- l2: regularização de L2. Deve ser um escalar.
- lr_power: Fator de escala. Deve ser um escalar.
Atributos opcionais (consulte Attrs
):
- use_locking: Se
True
, a atualização dos tensores var e Accum será protegida por um bloqueio; caso contrário, o comportamento é indefinido, mas pode exibir menos contenção.
Retorna:
-
Output
: igual a "var".
Construtores e Destruidores | |
---|---|
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power) | |
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs) |
Atributos públicos | |
---|---|
operation | |
out |
Funções públicas | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Funções estáticas públicas | |
---|---|
MultiplyLinearByLr (bool x) | |
UseLocking (bool x) |
Structs | |
---|---|
tensorflow :: ops :: SparseApplyFtrl :: Attrs | Configuradores de atributos opcionais para SparseApplyFtrl . |
Atributos públicos
Operação
Operation operation
Fora
::tensorflow::Output out
Funções públicas
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power )
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs )
nó
::tensorflow::Node * node() const
operador :: tensorflow :: Input
operator::tensorflow::Input() const
operador :: tensorflow :: Saída
operator::tensorflow::Output() const
Funções estáticas públicas
MultiplyLinearByLr
Attrs MultiplyLinearByLr( bool x )
UseLocking
Attrs UseLocking( bool x )