RMSProp

classe publique RMSProp

Optimiseur qui implémente l'algorithme RMSProp.

L’essentiel de RMSprop est de :

  • Maintenir une moyenne mobile (actualisée) du carré des dégradés
  • Divisez le dégradé par la racine de cette moyenne

Cette implémentation de RMSprop utilise l'élan simple, et non l'élan de Nesterov.

La version centrée maintient en outre une moyenne mobile des gradients et utilise cette moyenne pour estimer la variance.

Constantes

booléen CENTERED_DEFAULT
flotter DECAY_DEFAULT
flotter EPSILON_DEFAULT
flotter LEARNING_RATE_DEFAULT
Chaîne MG
Chaîne ÉLAN
flotter MOMENTUM_DEFAULT
Chaîne RMS

Constantes héritées

Constructeurs Publics

RMSProp ( Graphique )
Crée un optimiseur RMSPRrop
RMSProp ( Graphique graphique , taux d'apprentissage flottant)
Crée un optimiseur RMSPRrop
RMSProp ( Graphique , float learningRate, float decay, float momentum, float epsilon, booléen centré)
Crée un optimiseur RMSPRrop
RMSProp ( Graphique , nom de chaîne, taux d'apprentissage flottant)
Crée un optimiseur RMSPRrop
RMSProp ( Graphique , nom de la chaîne, float learningRate, float decay, float momentum, float epsilon, booléen centré)
Crée un optimiseur RMSPRrop

Méthodes publiques

Chaîne
getOptimizerName ()
Obtenez le nom de l'optimiseur.
Chaîne

Méthodes héritées

Constantes

public statique final booléen CENTERED_DEFAULT

Valeur constante : faux

public statique final float DECAY_DEFAULT

Valeur constante : 0,9

public statique final float EPSILON_DEFAULT

Valeur constante : 1,0E-10

public statique final float LEARNING_RATE_DEFAULT

Valeur constante : 0,001

chaîne finale statique publique MG

Valeur constante : "mg"

chaîne finale statique publique MOMENTUM

Valeur constante : « élan »

public statique final float MOMENTUM_DEFAULT

Valeur constante : 0,0

chaîne finale statique publique RMS

Valeur constante : "rms"

Constructeurs Publics

public RMSProp ( Graphique )

Crée un optimiseur RMSPRrop

Paramètres
graphique le graphique TensorFlow

public RMSProp ( Graphique , taux d'apprentissage flottant)

Crée un optimiseur RMSPRrop

Paramètres
graphique le graphique TensorFlow
taux d'apprentissage le taux d'apprentissage

public RMSProp ( Graphique , float learningRate, float decay, float momentum, float epsilon, booléen centré)

Crée un optimiseur RMSPRrop

Paramètres
graphique le graphique TensorFlow
taux d'apprentissage le taux d'apprentissage
pourriture Facteur d’actualisation pour le gradient historique/à venir. La valeur par défaut est 0,9.
élan le facteur d'accélération, la valeur par défaut est 0.
épsilon Une petite constante pour la stabilité numérique
centré Si true , les gradients sont normalisés par la variance estimée du gradient ; si false , par le deuxième moment non centré. Définir cela sur true peut faciliter la formation, mais est légèrement plus coûteux en termes de calcul et de mémoire. La valeur par défaut est false .

public RMSProp ( Graphique , nom de chaîne, taux d'apprentissage flottant)

Crée un optimiseur RMSPRrop

Paramètres
graphique le graphique TensorFlow
nom le nom de cet optimiseur. La valeur par défaut est "RMSProp".
taux d'apprentissage le taux d'apprentissage

public RMSProp ( Graph graph, String name, float learningRate, float decay, float momentum, float epsilon, booléen centré)

Crée un optimiseur RMSPRrop

Paramètres
graphique le graphique TensorFlow
nom le nom de cet optimiseur. La valeur par défaut est "RMSProp".
taux d'apprentissage le taux d'apprentissage
pourriture Facteur d’actualisation pour le gradient historique/à venir. La valeur par défaut est 0,9.
élan Le facteur d'accélération, par défaut est 0.
épsilon Une petite constante pour la stabilité numérique
centré Si true , les gradients sont normalisés par la variance estimée du gradient ; si false , par le deuxième moment non centré. Définir cela sur true peut faciliter la formation, mais est légèrement plus coûteux en termes de calcul et de mémoire. La valeur par défaut est false .

Méthodes publiques

chaîne publique getOptimizerName ()

Obtenez le nom de l'optimiseur.

Retour
  • Le nom de l'optimiseur.

chaîne publique versString ()