RMSProp

classe pubblica RMSProp

Ottimizzatore che implementa l'algoritmo RMSProp.

L'essenza di RMSprop è:

  • Mantenere una media mobile (scontata) del quadrato dei gradienti
  • Dividi il gradiente per la radice di questa media

Questa implementazione di RMSprop utilizza lo slancio semplice, non lo slancio di Nesterov.

La versione centrata mantiene inoltre una media mobile dei gradienti e utilizza tale media per stimare la varianza.

Costanti

booleano CENTRATO_DEFAULT
galleggiante DECADIMENTO_DEFAULT
galleggiante EPSILON_DEFAULT
galleggiante LEARNING_RATE_DEFAULT
Corda MG
Corda QUANTITÀ DI MOTO
galleggiante MOMENTUM_DEFAULT
Corda RMS

Costanti ereditate

Costruttori pubblici

RMSProp (grafico grafico )
Crea un ottimizzatore RMSPRrop
RMSProp (grafico grafico , tasso di apprendimento float)
Crea un ottimizzatore RMSPRrop
RMSProp (grafico grafico , tasso di apprendimento float, decadimento float, momento float, epsilon float, booleano centrato)
Crea un ottimizzatore RMSPRrop
RMSProp (grafico grafico , nome stringa, tasso di apprendimento float)
Crea un ottimizzatore RMSPRrop
RMSProp (grafico grafico , nome stringa, tasso di apprendimento float, decadimento float, momento float, epsilon float, booleano centrato)
Crea un ottimizzatore RMSPRrop

Metodi pubblici

Corda
getOptimizerName ()
Ottieni il nome dell'ottimizzatore.
Corda

Metodi ereditati

Costanti

booleano finale statico pubblico CENTERED_DEFAULT

Valore costante: falso

float finale statico pubblico DECAY_DEFAULT

Valore costante: 0,9

float finale statico pubblico EPSILON_DEFAULT

Valore costante: 1.0E-10

float finale statico pubblico LEARNING_RATE_DEFAULT

Valore costante: 0,001

stringa finale statica pubblica MG

Valore costante: "mg"

stringa finale statica pubblica MOMENTUM

Valore costante: "slancio"

float finale statico pubblico MOMENTUM_DEFAULT

Valore costante: 0,0

Stringa finale statica pubblica RMS

Valore costante: "rms"

Costruttori pubblici

RMSProp pubblico (grafico grafico )

Crea un ottimizzatore RMSPRrop

Parametri
grafico il grafico TensorFlow

RMSProp pubblico (grafico grafico , tasso di apprendimento float)

Crea un ottimizzatore RMSPRrop

Parametri
grafico il grafico TensorFlow
tasso di apprendimento il tasso di apprendimento

RMSProp pubblico (grafico grafico , tasso di apprendimento float, decadimento float, momento float, epsilon float, booleano centrato)

Crea un ottimizzatore RMSPRrop

Parametri
grafico il grafico TensorFlow
tasso di apprendimento il tasso di apprendimento
decadimento Fattore di sconto per il gradiente storico/prossimo. Il valore predefinito è 0,9.
quantità di moto il fattore di accelerazione, il valore predefinito è 0.
epsilon Una piccola costante per la stabilità numerica
centrato Se true , i gradienti vengono normalizzati dalla varianza stimata del gradiente; se false , dal secondo momento non centrato. Impostarlo su true può aiutare con l'addestramento, ma è leggermente più costoso in termini di calcolo e memoria. Il valore predefinito è false .

public RMSProp (grafico grafico , nome stringa, float learningRate)

Crea un ottimizzatore RMSPRrop

Parametri
grafico il grafico TensorFlow
nome il nome di questo ottimizzatore. Il valore predefinito è "RMSProp".
tasso di apprendimento il tasso di apprendimento

public RMSProp (grafico grafico , nome stringa, tasso di apprendimento float, decadimento float, momento float, epsilon float, booleano centrato)

Crea un ottimizzatore RMSPRrop

Parametri
grafico il grafico TensorFlow
nome il nome di questo ottimizzatore. Il valore predefinito è "RMSProp".
tasso di apprendimento il tasso di apprendimento
decadimento Fattore di sconto per il gradiente storico/prossimo. Il valore predefinito è 0,9.
quantità di moto Il fattore di accelerazione, il valore predefinito è 0.
epsilon Una piccola costante per la stabilità numerica
centrato Se true , i gradienti vengono normalizzati dalla varianza stimata del gradiente; se false , dal secondo momento non centrato. Impostarlo su true può aiutare con l'addestramento, ma è leggermente più costoso in termini di calcolo e memoria. Il valore predefinito è false .

Metodi pubblici

public String getOptimizerName ()

Ottieni il nome dell'ottimizzatore.

ritorna
  • Il nome dell'ottimizzatore.

stringa pubblica toString ()