flux tensoriel : : opérations : : SparseApplyMomentum
#include <training_ops.h>
Mettez à jour les entrées pertinentes dans '*var' et '*accum' selon le schéma momentum.
Résumé
Définissez use_nesterov = True si vous souhaitez utiliser l'élan Nesterov.
C'est pour les lignes pour lesquelles nous avons grad, nous mettons à jour var et accumulons comme suit :
$$accum = accum * momentum + grad$$
$$var -= lr * accum$$
Arguments :
- scope : un objet Scope
- var : doit provenir d'une variable ().
- cumul : doit provenir d'une variable ().
- gd : Taux d’apprentissage. Ça doit être un scalaire.
- grad : Le dégradé.
- indices : Un vecteur d'indices dans la première dimension de var et cumul.
- élan : élan. Ça doit être un scalaire.
Attributs facultatifs (voir Attrs
) :
- use_locking : Si
True
, la mise à jour des tenseurs var et accum sera protégée par un verrou ; sinon, le comportement n'est pas défini, mais peut présenter moins de conflits. - use_nesterov : Si
True
, le tenseur passé au calcul de grad sera var - lr * momentum * accum, donc à la fin, le var que vous obtenez est en fait var - lr * momentum * accum.
Retours :
-
Output
: Identique à "var".
Constructeurs et Destructeurs | |
---|---|
SparseApplyMomentum (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input momentum) | |
SparseApplyMomentum (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input momentum, const SparseApplyMomentum::Attrs & attrs) |
Attributs publics | |
---|---|
operation | |
out |
Fonctions publiques | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Fonctions statiques publiques | |
---|---|
UseLocking (bool x) | |
UseNesterov (bool x) |
Structures | |
---|---|
tensorflow : ops : SparseApplyMomentum : Attrs | Setters d'attributs facultatifs pour SparseApplyMomentum . |
Attributs publics
opération
Operation operation
dehors
::tensorflow::Output out
Fonctions publiques
SparseApplyMomentum
SparseApplyMomentum( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input momentum )
SparseApplyMomentum
SparseApplyMomentum( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input momentum, const SparseApplyMomentum::Attrs & attrs )
nœud
::tensorflow::Node * node() const
opérateur :: tensorflow :: Entrée
operator::tensorflow::Input() const
opérateur :: tensorflow :: Sortie
operator::tensorflow::Output() const
Fonctions statiques publiques
UtiliserVerrouillage
Attrs UseLocking( bool x )
Utiliser Nesterov
Attrs UseNesterov( bool x )