flux tensoriel : : opérations : : SparseApplyRMSProp

Mettez à jour '*var' selon l'algorithme RMSProp.

Résumé

Notez que dans une implémentation dense de cet algorithme, ms et mom seront mis à jour même si le grade est nul, mais dans cette implémentation clairsemée, ms et mom ne seront pas mis à jour dans les itérations pendant lesquelles le grade est nul.

Mean_square = décroissance * Mean_square + (1-décroissance) * gradient ** 2 Delta = learning_rate * gradient / sqrt (mean_square + epsilon)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$ $$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$ $$var <- var - mom$$

Arguments :

• scope : un objet Scope
• var : doit provenir d'une variable ().
• ms : doit provenir d'une variable().
• maman : devrait provenir d'une variable ().
• lr : facteur d’échelle. Ça doit être un scalaire.
• rho : taux de décroissance. Ça doit être un scalaire.
• epsilon : terme de crête. Ça doit être un scalaire.
• grad : Le dégradé.
• indices : Un vecteur d'indices dans la première dimension de var, ms et mom.

Attributs facultatifs (voir Attrs ) :

• use_locking : Si True , la mise à jour des tenseurs var, ms et mom est protégée par un verrou ; sinon, le comportement n'est pas défini, mais peut présenter moins de conflits.

Retours :

• Output : Identique à "var".

Attributs publics

Operation operation

::tensorflow::Output out

 SparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices
)

 SparseApplyRMSProp(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input ms,
  ::tensorflow::Input mom,
  ::tensorflow::Input lr,
  ::tensorflow::Input rho,
  ::tensorflow::Input momentum,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  ::tensorflow::Input indices,
  const SparseApplyRMSProp::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs UseLocking(
  bool x
)