Optimiseur qui implémente l'algorithme RMSProp.
L’essentiel de RMSprop est de :
- Maintenir une moyenne mobile (actualisée) du carré des dégradés
- Divisez le dégradé par la racine de cette moyenne
Cette implémentation de RMSprop utilise l'élan simple, et non l'élan de Nesterov.
La version centrée maintient en outre une moyenne mobile des gradients et utilise cette moyenne pour estimer la variance.
Constantes
booléen | CENTERED_DEFAULT | |
flotter | DECAY_DEFAULT | |
flotter | EPSILON_DEFAULT | |
flotter | LEARNING_RATE_DEFAULT | |
Chaîne | MG | |
Chaîne | ÉLAN | |
flotter | MOMENTUM_DEFAULT | |
Chaîne | RMS |
Constantes héritées
Constructeurs Publics
Méthodes publiques
Chaîne | getOptimizerName () Obtenez le nom de l'optimiseur. |
Chaîne | àChaîne () |
Méthodes héritées
Constantes
public statique final booléen CENTERED_DEFAULT
public statique final float DECAY_DEFAULT
public statique final float EPSILON_DEFAULT
public statique final float LEARNING_RATE_DEFAULT
chaîne finale statique publique MG
chaîne finale statique publique MOMENTUM
public statique final float MOMENTUM_DEFAULT
chaîne finale statique publique RMS
Constructeurs Publics
public RMSProp ( Graphique )
Crée un optimiseur RMSPRrop
Paramètres
graphique | le graphique TensorFlow |
---|
public RMSProp ( Graphique , taux d'apprentissage flottant)
Crée un optimiseur RMSPRrop
Paramètres
graphique | le graphique TensorFlow |
---|---|
taux d'apprentissage | le taux d'apprentissage |
public RMSProp ( Graphique , float learningRate, float decay, float momentum, float epsilon, booléen centré)
Crée un optimiseur RMSPRrop
Paramètres
graphique | le graphique TensorFlow |
---|---|
taux d'apprentissage | le taux d'apprentissage |
pourriture | Facteur d’actualisation pour le gradient historique/à venir. La valeur par défaut est 0,9. |
élan | le facteur d'accélération, la valeur par défaut est 0. |
épsilon | Une petite constante pour la stabilité numérique |
centré | Si true , les gradients sont normalisés par la variance estimée du gradient ; si false , par le deuxième moment non centré. Définir cela sur true peut faciliter la formation, mais est légèrement plus coûteux en termes de calcul et de mémoire. La valeur par défaut est false . |
public RMSProp ( Graphique , nom de chaîne, taux d'apprentissage flottant)
Crée un optimiseur RMSPRrop
Paramètres
graphique | le graphique TensorFlow |
---|---|
nom | le nom de cet optimiseur. La valeur par défaut est "RMSProp". |
taux d'apprentissage | le taux d'apprentissage |
public RMSProp ( Graph graph, String name, float learningRate, float decay, float momentum, float epsilon, booléen centré)
Crée un optimiseur RMSPRrop
Paramètres
graphique | le graphique TensorFlow |
---|---|
nom | le nom de cet optimiseur. La valeur par défaut est "RMSProp". |
taux d'apprentissage | le taux d'apprentissage |
pourriture | Facteur d’actualisation pour le gradient historique/à venir. La valeur par défaut est 0,9. |
élan | Le facteur d'accélération, par défaut est 0. |
épsilon | Une petite constante pour la stabilité numérique |
centré | Si true , les gradients sont normalisés par la variance estimée du gradient ; si false , par le deuxième moment non centré. Définir cela sur true peut faciliter la formation, mais est légèrement plus coûteux en termes de calcul et de mémoire. La valeur par défaut est false . |
Méthodes publiques
chaîne publique getOptimizerName ()
Obtenez le nom de l'optimiseur.
Retour
- Le nom de l'optimiseur.