ResourceSparseApplyRmsProp

공개 최종 클래스 ResourceSparseApplyRmsProp

RMSProp 알고리즘에 따라 '*var'를 업데이트합니다.

이 알고리즘의 밀집 구현에서 ms와 mom은 grad가 0인 경우에도 업데이트되지만 이 희소 구현에서는 ms와 mom은 grad가 0인 동안 반복에서 업데이트되지 않습니다.

평균 제곱 = 붕괴 * 평균 제곱 + (1-감쇠) * 기울기 ** 2 델타 = 학습 속도 * 기울기 / sqrt(평균 제곱 + 엡실론)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mom <- 모멘텀 * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - 엄마

중첩 클래스

수업 ResourceSparseApplyRmsProp.Options ResourceSparseApplyRmsProp 의 선택적 속성

상수

끈 OP_NAME TensorFlow 코어 엔진에서 알려진 이 작업의 이름

공개 방법

static <T는 TType을 확장합니다. > ResourceSparseApplyRmsProp
create ( 범위 범위, 피연산자 <?> var, 피연산자 <?> ms, 피연산자 <?> mom, 피연산자 <T> lr, 피연산자 <T> rho, 피연산자 <T> 모멘텀, 피연산자 <T> 엡실론, 피연산자 <T > grad, 피연산자 <? 확장 TNumber > 인덱스, 옵션... 옵션)
새로운 ResourceSparseApplyRmsProp 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.
정적 ResourceSparseApplyRmsProp.Options
useLocking (부울 useLocking)

상속된 메서드

상수

공개 정적 최종 문자열 OP_NAME

TensorFlow 코어 엔진에서 알려진 이 작업의 이름

상수 값: "ResourceSparseApplyRMSProp"

공개 방법

public static ResourceSparseApplyRmsProp create ( 범위 범위, 피연산자 <?> var, 피연산자 <?> ms, 피연산자 <?> mom, 피연산자 <T> lr, 피연산자 <T> rho, 피연산자 <T> 추진력, 피연산자 <T> 엡실론, 피연산자 <T> grad, 피연산자 <? 확장 TNumber > 인덱스, 옵션... 옵션)

새로운 ResourceSparseApplyRmsProp 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.

매개변수
범위 현재 범위
var Variable()에서 가져와야 합니다.
ms Variable()에서 가져와야 합니다.
엄마 Variable()에서 가져와야 합니다.
난 배율 인수. 스칼라여야 합니다.
로 부패율. 스칼라여야 합니다.
엡실론 능선 용어. 스칼라여야 합니다.
졸업생 그라데이션입니다.
지수 var, ms 및 mom의 첫 번째 차원에 대한 인덱스 벡터입니다.
옵션 선택적 속성 값을 전달합니다.
보고
  • ResourceSparseApplyRmsProp의 새 인스턴스

공개 정적 ResourceSparseApplyRmsProp.Options useLocking (부울 useLocking)

매개변수
사용잠금 'True'인 경우 var, ms 및 mom 텐서 업데이트는 잠금으로 보호됩니다. 그렇지 않으면 동작이 정의되지 않지만 경합이 덜 나타날 수 있습니다.