tensor akışı:: işlem:: KaynakUygulaRMSProp
#include <training_ops.h>
'*var'ı RMSProp algoritmasına göre güncelleyin.
Özet
Bu algoritmanın yoğun uygulanmasında ms ve mom'in derece sıfır olsa bile güncelleneceğini, ancak bu seyrek uygulamada ms ve mom'in derecenin sıfır olduğu yinelemelerde güncellenmeyeceğini unutmayın.
ortalama_kare = bozunma * ortalama_kare + (1-bozunma) * gradyan ** 2 Delta = öğrenme_oranı * gradyan / sqrt(ortalama_kare + epsilon)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom
Argümanlar:
- kapsam: Bir Kapsam nesnesi
- var: Bir Variable()'dan olmalıdır.
- ms: Bir Variable()'dan olmalıdır.
- anne: Bir Variable()'dan olmalı.
- lr: Ölçeklendirme faktörü. Bir skaler olmalı.
- rho: Bozunma oranı. Bir skaler olmalı.
- epsilon: Ridge terimi. Bir skaler olmalı.
- grad: Gradyan.
İsteğe bağlı özellikler (bkz. Attrs
):
- use_locking:
True
ise var, ms ve mom tensörlerinin güncellenmesi bir kilitle korunur; aksi takdirde davranış tanımsızdır ancak daha az çekişme sergileyebilir.
İade:
- oluşturulan
Operation
Yapıcılar ve Yıkıcılar | |
---|---|
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad) | |
ResourceApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs) |
Genel özellikler | |
---|---|
operation |
Kamu işlevleri | |
---|---|
operator::tensorflow::Operation () const |
Genel statik işlevler | |
---|---|
UseLocking (bool x) |
Yapılar | |
---|---|
tensorflow:: ops:: ResourceApplyRMSProp:: Öznitelikler | ResourceApplyRMSProp için isteğe bağlı öznitelik ayarlayıcılar. |
Genel özellikler
operasyon
Operation operation
Kamu işlevleri
KaynakUygulaRMSProp
ResourceApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad )
KaynakUygulaRMSProp
ResourceApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, const ResourceApplyRMSProp::Attrs & attrs )
operatör::tensorflow::İşlem
operator::tensorflow::Operation() const
Genel statik işlevler
KullanımKilitleme
Attrs UseLocking( bool x )