Pengoptimal yang mengimplementasikan algoritma RMSProp.
Inti dari RMSprop adalah:
- Pertahankan rata-rata pergerakan kuadrat gradien
- Bagilah gradien dengan akar rata-rata ini
Implementasi RMSprop ini menggunakan momentum biasa, bukan momentum Nesterov.
Versi terpusat juga mempertahankan rata-rata pergerakan gradien, dan menggunakan rata-rata tersebut untuk memperkirakan variansnya.
Konstanta
boolean | PUSAT_DEFAULT | |
mengambang | DECAY_DEFAULT | |
mengambang | EPSILON_DEFAULT | |
mengambang | BELAJAR_RATE_DEFAULT | |
Rangkaian | mg | |
Rangkaian | MOMENTUM | |
mengambang | MOMENTUM_DEFAULT | |
Rangkaian | RMS |
Konstanta yang Diwarisi
Konstruktor Publik
RMSProp ( Grafik grafik , Nama string, Kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean) Membuat Pengoptimal RMSPRrop |
Metode Publik
Rangkaian | dapatkan Nama Pengoptimal () Dapatkan Nama pengoptimal. |
Rangkaian | keString () |
Metode Warisan
Konstanta
boolean akhir statis publik CENTERED_DEFAULT
float akhir statis publik DECAY_DEFAULT
float akhir statis publik EPSILON_DEFAULT
float akhir statis publik LEARNING_RATE_DEFAULT
String MG akhir statis publik
MOMENTUM String akhir statis publik
float akhir statis publik MOMENTUM_DEFAULT
String RMS akhir statis publik
Konstruktor Publik
RMSProp publik (Grafik grafik , tingkat pembelajaran mengambang)
Membuat Pengoptimal RMSPRrop
Parameter
grafik | Grafik TensorFlow |
---|---|
Tingkat pembelajaran | kecepatan pembelajaran |
RMSProp publik (Grafik grafik , kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean)
Membuat Pengoptimal RMSPRrop
Parameter
grafik | Grafik TensorFlow |
---|---|
Tingkat pembelajaran | kecepatan pembelajaran |
membusuk | Faktor diskon untuk sejarah/gradien yang akan datang. Defaultnya adalah 0,9. |
momentum | faktor akselerasi, defaultnya adalah 0. |
epsilon | Konstanta kecil untuk stabilitas numerik |
terpusat | Jika true , gradien dinormalisasi dengan perkiraan varians gradien; jika false , pada momen kedua yang tidak terpusat. Menyetelnya ke true mungkin membantu pelatihan, namun sedikit lebih mahal dalam hal komputasi dan memori. Defaultnya adalah false . |
RMSProp publik (Grafik grafik , Nama string, Tingkat pembelajaran mengambang)
Membuat Pengoptimal RMSPRrop
Parameter
grafik | Grafik TensorFlow |
---|---|
nama | nama Pengoptimal ini. Defaultnya adalah "RMSProp". |
Tingkat pembelajaran | kecepatan pembelajaran |
RMSProp publik ( Grafik grafik, Nama string, Kecepatan pembelajaran float, peluruhan float, momentum float, epsilon float, berpusat boolean)
Membuat Pengoptimal RMSPRrop
Parameter
grafik | Grafik TensorFlow |
---|---|
nama | nama Pengoptimal ini. Defaultnya adalah "RMSProp". |
Tingkat pembelajaran | kecepatan pembelajaran |
membusuk | Faktor diskon untuk sejarah/gradien yang akan datang. Defaultnya adalah 0,9. |
momentum | Faktor akselerasi, defaultnya adalah 0. |
epsilon | Konstanta kecil untuk stabilitas numerik |
terpusat | Jika true , gradien dinormalisasi dengan perkiraan varians gradien; jika false , pada momen kedua yang tidak terpusat. Menyetelnya ke true mungkin membantu pelatihan, namun sedikit lebih mahal dalam hal komputasi dan memori. Defaultnya adalah false . |
Metode Publik
String publik getOptimizerName ()
Dapatkan Nama pengoptimal.
Kembali
- Nama pengoptimal.