lớp cuối cùng công khai SendTUEmbeddingGradients
Thực hiện cập nhật độ dốc của các bảng nhúng.
Hằng số
| Sợi dây | OP_NAME | Tên của op này, được biết đến bởi công cụ lõi TensorFlow |
Phương pháp công khai
| SendTUEembeddingGradients tĩnh |
Phương pháp kế thừa
Hằng số
Chuỗi cuối cùng tĩnh công khai OP_NAME
Tên của op này, được biết đến bởi công cụ lõi TensorFlow
Giá trị không đổi: "SendTPUEmbeddingGradients"
Phương pháp công khai
public static SendTPUEmbeddingGradients tạo ( Phạm vi phạm vi, Iterable< Toán hạng < TFloat32 >> đầu vào, Iterable< Toán hạng < TFloat32 >> learningRates, Cấu hình chuỗi)
Phương thức xuất xưởng để tạo một lớp bao bọc hoạt động SendTPUEmbeddingGradients mới.
Thông số
| phạm vi | phạm vi hiện tại |
|---|---|
| đầu vào | Một TensorList gồm các gradient dùng để cập nhật các bảng nhúng. Đối số này có cùng độ dài và hình dạng với giá trị trả về của RecvTPUEmbeddingActivations, nhưng chứa độ dốc của sự mất mát của mô hình đối với các kích hoạt nhúng. Các bảng nhúng được cập nhật từ các gradient này thông qua trình tối ưu hóa được chỉ định trong cấu hình nhúng TPU được cung cấp cho tpu.initialize_system. |
| tỷ lệ học tập | Danh sách Tensor gồm các giá trị vô hướng float32, một cho mỗi thẻ tốc độ học động: xem nhận xét trong //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto. Nhiều bảng có thể chia sẻ cùng một thẻ tốc độ học tập động như được chỉ định trong cấu hình. Nếu tốc độ học của tất cả các bảng là không đổi thì danh sách này sẽ trống. |
| cấu hình | Proto Cấu hình TPUEmbedding được tuần tự hóa. |
Trả lại
- một phiên bản mới của SendTPUEmbeddingGradients