tensor akışı:: işlem:: KaynakSparseApplyRMSProp
#include <training_ops.h>
'*var'ı RMSProp algoritmasına göre güncelleyin.
Özet
Bu algoritmanın yoğun uygulanmasında ms ve mom'in derece sıfır olsa bile güncelleneceğini, ancak bu seyrek uygulamada ms ve mom'in derecenin sıfır olduğu yinelemelerde güncellenmeyeceğini unutmayın.
ortalama_kare = bozunma * ortalama_kare + (1-bozunma) * gradyan ** 2 Delta = öğrenme_oranı * gradyan / sqrt(ortalama_kare + epsilon)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom
Argümanlar:
- kapsam: Bir Kapsam nesnesi
- var: Bir Variable()'dan olmalıdır.
- ms: Bir Variable()'dan olmalıdır.
- anne: Bir Variable()'dan olmalı.
- lr: Ölçeklendirme faktörü. Bir skaler olmalı.
- rho: Bozunma oranı. Bir skaler olmalı.
- epsilon: Ridge terimi. Bir skaler olmalı.
- grad: Gradyan.
- indeksler: var, ms ve mom'un birinci boyutuna ait indekslerin bir vektörü.
İsteğe bağlı özellikler (bkz. Attrs
):
- use_locking:
True
ise var, ms ve mom tensörlerinin güncellenmesi bir kilitle korunur; aksi takdirde davranış tanımsızdır ancak daha az çekişme sergileyebilir.
İade:
- oluşturulan
Operation
Yapıcılar ve Yıkıcılar | |
---|---|
ResourceSparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
ResourceSparseApplyRMSProp (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input ms, :: tensorflow::Input mom, :: tensorflow::Input lr, :: tensorflow::Input rho, :: tensorflow::Input momentum, :: tensorflow::Input epsilon, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyRMSProp::Attrs & attrs) |
Genel özellikler | |
---|---|
operation |
Kamu işlevleri | |
---|---|
operator::tensorflow::Operation () const |
Genel statik işlevler | |
---|---|
UseLocking (bool x) |
Yapılar | |
---|---|
tensorflow:: ops:: ResourceSparseApplyRMSProp:: Öznitelikler | ResourceSparseApplyRMSProp için isteğe bağlı öznitelik ayarlayıcılar. |
Genel özellikler
operasyon
Operation operation
Kamu işlevleri
KaynakSparseApplyRMSProp
ResourceSparseApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, ::tensorflow::Input indices )
KaynakSparseApplyRMSProp
ResourceSparseApplyRMSProp( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input ms, ::tensorflow::Input mom, ::tensorflow::Input lr, ::tensorflow::Input rho, ::tensorflow::Input momentum, ::tensorflow::Input epsilon, ::tensorflow::Input grad, ::tensorflow::Input indices, const ResourceSparseApplyRMSProp::Attrs & attrs )
operatör::tensorflow::İşlem
operator::tensorflow::Operation() const
Genel statik işlevler
KullanımKilitleme
Attrs UseLocking( bool x )