dòng chảy căng:: ôi:: Áp dụngThêmDấu hiệu
#include <training_ops.h>
Cập nhật '*var' theo bản cập nhật AddSign.
Bản tóm tắt
m_t <- beta1 * m_{t-1} + (1 - beta1) * g cập nhật <- (alpha + sign_decay * sign(g) *sign(m)) * g biến <- biến - lr_t * cập nhật
Lập luận:
- phạm vi: Một đối tượng Phạm vi
- var: Phải từ một Biến().
- m: Phải từ một Biến().
- lr: Hệ số tỷ lệ. Phải là một vô hướng.
- alpha: Phải là số vô hướng.
- sign_decay: Phải là số vô hướng.
- beta: Phải là một đại lượng vô hướng.
- grad: Độ dốc.
Thuộc tính tùy chọn (xem Attrs
):
- use_locking: Nếu
True
, việc cập nhật các tensor var và m được bảo vệ bằng khóa; mặt khác, hành vi không được xác định, nhưng có thể ít gây tranh cãi hơn.
Trả về:
-
Output
: Giống như "var".
Hàm tạo và hàm hủy | |
---|---|
ApplyAddSign (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input m, :: tensorflow::Input lr, :: tensorflow::Input alpha, :: tensorflow::Input sign_decay, :: tensorflow::Input beta, :: tensorflow::Input grad) | |
ApplyAddSign (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input m, :: tensorflow::Input lr, :: tensorflow::Input alpha, :: tensorflow::Input sign_decay, :: tensorflow::Input beta, :: tensorflow::Input grad, const ApplyAddSign::Attrs & attrs) |
Thuộc tính công khai | |
---|---|
operation | |
out |
Chức năng công cộng | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Các hàm tĩnh công khai | |
---|---|
UseLocking (bool x) |
Cấu trúc | |
---|---|
tensorflow:: ops:: ApplyAddSign:: Attrs | Bộ cài đặt thuộc tính tùy chọn cho ApplyAddSign . |
Thuộc tính công khai
hoạt động
Operation operation
ngoài
::tensorflow::Output out
Chức năng công cộng
Áp dụngThêmDấu hiệu
ApplyAddSign( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input m, ::tensorflow::Input lr, ::tensorflow::Input alpha, ::tensorflow::Input sign_decay, ::tensorflow::Input beta, ::tensorflow::Input grad )
Áp dụngThêmDấu hiệu
ApplyAddSign( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input m, ::tensorflow::Input lr, ::tensorflow::Input alpha, ::tensorflow::Input sign_decay, ::tensorflow::Input beta, ::tensorflow::Input grad, const ApplyAddSign::Attrs & attrs )
nút
::tensorflow::Node * node() const
toán tử::tenorflow::Đầu vào
operator::tensorflow::Input() const
toán tử::tenorflow::Đầu ra
operator::tensorflow::Output() const
Các hàm tĩnh công khai
Sử dụngKhóa
Attrs UseLocking( bool x )