SparseApplyRmsProp

パブリック最終クラスSparseApplyRmsProp

RMSProp アルゴリズムに従って「*var」を更新します。

このアルゴリズムの高密度実装では、grad が 0 であっても ms と mom は更新されますが、このスパース実装では、grad が 0 である反復では ms と mom は更新されないことに注意してください。

平均二乗 = 減衰 * 平均二乗 + (1-減衰) * 勾配 ** 2 デルタ = 学習率 * 勾配 / sqrt(平均二乗 + イプシロン)

$$ms <- rho * ms_{t-1} + (1-rho) * grad * grad$$$$mom <- momentum * mom_{t-1} + lr * grad / sqrt(ms + epsilon)$$$$var <- var - mom$$

ネストされたクラス

クラスSparseApplyRmsProp.Options SparseApplyRmsPropのオプションの属性

定数

弦OP_NAME TensorFlow コア エンジンによって認識される、この演算の名前

パブリックメソッド

出力<T>
asOutput ()
テンソルのシンボリック ハンドルを返します。
static <T extends TType > SparseApplyRmsProp <T>
create (スコープscope,オペランド<T> var,オペランド<T> ms,オペランド<T> mom,オペランド<T> lr,オペランド<T> rho,オペランド<T> モーメンタム,オペランド<T> epsilon,オペランド<T > grad、オペランド<? extends TNumber > インデックス、オプション...オプション)
新しい SparseApplyRmsProp オペレーションをラップするクラスを作成するためのファクトリ メソッド。
出力<T>
外（）
「var」と同じです。
静的SparseApplyRmsProp.Options
useLocking (ブール型 useLocking)

継承されたメソッド

定数

パブリック静的最終文字列OP_NAME

TensorFlow コア エンジンによって認識される、この演算の名前

定数値: "SparseApplyRMSProp"

パブリックメソッド

public Output <T> asOutput ()

テンソルのシンボリック ハンドルを返します。

TensorFlow オペレーションへの入力は、別の TensorFlow オペレーションの出力です。このメソッドは、入力の計算を表すシンボリック ハンドルを取得するために使用されます。

public static SparseApplyRmsProp <T> create (スコープscope,オペランド<T> var,オペランド<T> ms,オペランド<T> mom,オペランド<T> lr,オペランド<T> rho,オペランド<T> モーメンタム,オペランド<T > イプシロン、オペランド<T> grad、オペランド<? extends TNumber > インデックス、オプション...オプション)

新しい SparseApplyRmsProp オペレーションをラップするクラスを作成するためのファクトリ メソッド。

パラメータ
範囲現在のスコープ
変数Variable() から取得する必要があります。
MS Variable() から取得する必要があります。
お母さんVariable() から取得する必要があります。
lrスケーリング係数。スカラーでなければなりません。
ロー減衰率。スカラーでなければなりません。
イプシロンリッジ用語。スカラーでなければなりません。
卒業生グラデーション。
インデックスvar、ms、mom の最初の次元へのインデックスのベクトル。
オプションオプションの属性値を持ちます
返品
  • SparseApplyRmsProp の新しいインスタンス

public出力<T> out ()

「var」と同じです。

public static SparseApplyRmsProp.Options useLocking (Boolean useLocking)

パラメータ
使用ロック「True」の場合、var、ms、および mom テンソルの更新はロックによって保護されます。それ以外の場合、動作は未定義ですが、競合が少なくなる可能性があります。