fluxo tensor:: ops:: SparseApplyFtrl
#include <training_ops.h>
Atualize as entradas relevantes em '*var' de acordo com o esquema Ftrl-proximal.
Resumo
Ou seja, para as linhas para as quais temos graduação, atualizamos var, accum e linear da seguinte forma:
$$accum_new = accum + grad * grad$$
$$linear += grad + (accum_{new}^{-lr_{power} } - accum^{-lr_{power} } / lr * var$$
$$quadratic = 1.0 / (accum_{new}^{lr_{power} } * lr) + 2 * l2$$
$$var = (sign(linear) * l1 - linear) / quadratic\ if\ |linear| > l1\ else\ 0.0$$
$$accum = accum_{new}$$
Argumentos:
- escopo: um objeto Escopo
- var: Deve ser de uma variável().
- accum: Deve ser de uma variável().
- linear: deve ser de uma variável().
- graduação: O gradiente.
- índices: Um vetor de índices na primeira dimensão de var e accum.
- lr: Fator de escala. Deve ser um escalar.
- l1: regularização L1. Deve ser um escalar.
- l2: regularização L2. Deve ser um escalar.
- lr_power: fator de escala. Deve ser um escalar.
Atributos opcionais (veja Attrs
):
- use_locking: Se
True
, a atualização dos tensores var e accum será protegida por um bloqueio; caso contrário, o comportamento será indefinido, mas poderá apresentar menos contenção.
Retorna:
-
Output
: igual a "var".
Construtores e Destruidores | |
---|---|
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power) | |
SparseApplyFtrl (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs) |
Atributos públicos | |
---|---|
operation | |
out |
Funções públicas | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Funções estáticas públicas | |
---|---|
UseLocking (bool x) |
Estruturas | |
---|---|
tensorflow:: ops:: SparseApplyFtrl:: Attrs | Configuradores de atributos opcionais para SparseApplyFtrl . |
Atributos públicos
operação
Operation operation
fora
::tensorflow::Output out
Funções públicas
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power )
SparseApplyFtrl
SparseApplyFtrl( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input lr_power, const SparseApplyFtrl::Attrs & attrs )
nó
::tensorflow::Node * node() const
operador::tensorflow::Input
operator::tensorflow::Input() const
operador::tensorflow::Saída
operator::tensorflow::Output() const
Funções estáticas públicas
UseLocking
Attrs UseLocking( bool x )