fluxo tensor:: ops:: SparseApplyProximalGradientDescent
#include <training_ops.h>
Atualização esparsa '*var' como algoritmo FOBOS com taxa de aprendizagem fixa.
Resumo
Ou seja, para as linhas para as quais temos graduação, atualizamos var da seguinte forma:
$$prox_v = var - alpha * grad$$
$$var = sign(prox_v)/(1+alpha*l2) * max{|prox_v|-alpha*l1,0}$$
Argumentos:
- escopo: um objeto Escopo
- var: Deve ser de uma variável().
- alfa: fator de escala. Deve ser um escalar.
- l1: regularização L1. Deve ser um escalar.
- l2: regularização L2. Deve ser um escalar.
- graduação: O gradiente.
- índices: Um vetor de índices na primeira dimensão de var e accum.
Atributos opcionais (veja Attrs
):
- use_locking: Se True, a subtração será protegida por um bloqueio; caso contrário, o comportamento será indefinido, mas poderá apresentar menos contenção.
Retorna:
-
Output
: igual a "var".
Construtores e Destruidores | |
---|---|
SparseApplyProximalGradientDescent (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input alpha, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
SparseApplyProximalGradientDescent (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input alpha, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyProximalGradientDescent::Attrs & attrs) |
Atributos públicos | |
---|---|
operation | |
out |
Funções públicas | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Funções estáticas públicas | |
---|---|
UseLocking (bool x) |
Estruturas | |
---|---|
tensorflow:: ops:: SparseApplyProximalGradientDescent:: Attrs | Configuradores de atributos opcionais para SparseApplyProximalGradientDescent . |
Atributos públicos
operação
Operation operation
fora
::tensorflow::Output out
Funções públicas
SparseApplyProximalGradientDescent
SparseApplyProximalGradientDescent( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input alpha, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
SparseApplyProximalGradientDescent
SparseApplyProximalGradientDescent( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input alpha, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const SparseApplyProximalGradientDescent::Attrs & attrs )
nó
::tensorflow::Node * node() const
operador::tensorflow::Input
operator::tensorflow::Input() const
operador::tensorflow::Saída
operator::tensorflow::Output() const
Funções estáticas públicas
UseLocking
Attrs UseLocking( bool x )