Optymalizator implementujący algorytm RMSProp.
Istotą RMSprop jest:
- Utrzymuj średnią ruchomą (zdyskontowaną) kwadratu gradientów
- Podziel gradient przez pierwiastek tej średniej
Ta implementacja RMSprop wykorzystuje zwykły pęd, a nie pęd Niestierowa.
Wersja wyśrodkowana dodatkowo utrzymuje średnią ruchomą gradientów i wykorzystuje tę średnią do oszacowania wariancji.
Stałe
wartość logiczna | CENTERED_DEFAULT | |
platforma | DECAY_DEFAULT | |
platforma | EPSILON_DEFAULT | |
platforma | LEARNING_RATE_DEFAULT | |
Strunowy | mg | |
Strunowy | PĘD | |
platforma | MOMENTUM_DEFAULT | |
Strunowy | RMS |
Dziedziczone stałe
Konstruktorzy publiczni
Metody publiczne
Strunowy | getOptimizerName () Uzyskaj nazwę optymalizatora. |
Strunowy | doString () |
Metody dziedziczone
Stałe
publiczna statyczna końcowa wartość logiczna CENTERED_DEFAULT
publiczny statyczny końcowy float DECAY_DEFAULT
publiczny statyczny końcowy float EPSILON_DEFAULT
publiczny statyczny końcowy float LEARNING_RATE_DEFAULT
publiczny statyczny końcowy ciąg MG
publiczny statyczny końcowy ciąg MOMENTUM
publiczny statyczny końcowy float MOMENTUM_DEFAULT
publiczny statyczny końcowy ciąg RMS
Konstruktorzy publiczni
publiczny RMSProp (wykres graficzny )
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|
public RMSProp (wykres wykresu , float learningRate)
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|---|
Szybkość uczenia się | tempo uczenia się |
public RMSProp (wykres wykresu , nauka floatRate, zanik float, pęd float, float epsilon, wartość logiczna wyśrodkowana)
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|---|
Szybkość uczenia się | tempo uczenia się |
rozkład | Współczynnik dyskontujący dla gradientu historii/nadchodzącego. Domyślnie jest to 0,9. |
pęd | współczynnik przyspieszenia, domyślnie wynosi 0. |
epsilon | Mała stała zapewniająca stabilność numeryczną |
wyśrodkowany | Jeśli true , gradienty są normalizowane przez szacowaną wariancję gradientu; jeśli false , przez niecentryczny drugi moment. Ustawienie tej wartości na true może pomóc w szkoleniu, ale jest nieco droższe pod względem obliczeń i pamięci. Domyślnie jest to false . |
publiczny RMSProp (wykres wykresu , nazwa ciągu, współczynnik uczenia się typu float)
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|---|
nazwa | nazwa tego Optymalizatora. Domyślnie jest to „RMSProp”. |
Szybkość uczenia się | tempo uczenia się |
publiczny RMSProp (wykres wykresu , nazwa ciągu, nauka floatRate, zanik float, pęd float, float epsilon, wartość logiczna wyśrodkowana)
Tworzy optymalizator RMSPRrop
Parametry
wykres | wykres TensorFlow |
---|---|
nazwa | nazwa tego Optymalizatora. Domyślnie jest to „RMSProp”. |
Szybkość uczenia się | tempo uczenia się |
rozkład | Współczynnik dyskontujący dla gradientu historii/nadchodzącego. Domyślnie jest to 0,9. |
pęd | Współczynnik przyspieszenia, domyślnie wynosi 0. |
epsilon | Mała stała zapewniająca stabilność numeryczną |
wyśrodkowany | Jeśli true , gradienty są normalizowane przez szacowaną wariancję gradientu; jeśli false , przez niecentryczny drugi moment. Ustawienie tej wartości na true może pomóc w szkoleniu, ale jest nieco droższe pod względem obliczeń i pamięci. Domyślnie jest to false . |
Metody publiczne
public String getOptimizerName ()
Uzyskaj nazwę optymalizatora.
Zwroty
- Nazwa optymalizatora.