공개 최종 클래스 SendTPUEmbeddingGradients
임베딩 테이블의 그라데이션 업데이트를 수행합니다.
상수
끈 | OP_NAME | TensorFlow 코어 엔진에서 알려진 이 작업의 이름 |
공개 방법
정적 SendTPUEmbeddingGradients |
상속된 메서드
상수
공개 정적 최종 문자열 OP_NAME
TensorFlow 코어 엔진에서 알려진 이 작업의 이름
상수 값: "SendTPUEmbeddingGradients"
공개 방법
공개 정적 SendTPUEmbeddingGradients 생성 ( 범위 범위, Iterable< Operand < TFloat32 >> 입력, Iterable< Operand < TFloat32 >> learningRates, 문자열 구성)
새로운 SendTPUEmbeddingGradients 작업을 래핑하는 클래스를 생성하는 팩토리 메서드입니다.
매개변수
범위 | 현재 범위 |
---|---|
입력 | 임베딩 테이블을 업데이트하는 데 사용할 그래디언트의 TensorList입니다. 이 인수는 RecvTPUEmbeddingActivations의 반환 값과 길이와 모양이 동일하지만 임베딩 활성화와 관련된 모델 손실의 기울기를 포함합니다. 임베딩 테이블은 tpu.initialize_system에 제공된 TPU 임베딩 구성에 지정된 최적화 프로그램을 통해 이러한 그라데이션에서 업데이트됩니다. |
학습요율 | 각 동적 학습률 태그에 대해 하나씩 float32 스칼라의 TensorList: //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto의 주석을 참조하세요. 여러 테이블이 구성에 지정된 것과 동일한 동적 학습률 태그를 공유할 수 있습니다. 모든 테이블의 학습률이 일정하다면 이 목록은 비어 있어야 합니다. |
구성 | 직렬화된 TPUEmbeddingConfiguration proto. |
보고
- SendTPUEmbeddingGradients의 새 인스턴스