dòng chảy căng:: ôi:: Thưa thớtÁp dụngFtrlV2
#include <training_ops.h>
Cập nhật các mục nhập có liên quan trong '*var' theo sơ đồ gần Ftrl.
Bản tóm tắt
Đó là đối với các hàng mà chúng tôi có grad, chúng tôi cập nhật var, accum và tuyến tính như sau: grad_with_shrinkage = grad + 2 * l2_shrinkage * var accum_new = accum + grad_with_shrinkage * grad_with_shrinkage tuyến tính += grad_with_shrinkage + (accum_new^(-lr_power) - accum^ (-lr_power)) / lr * var bậc hai = 1.0 / (accum_new^(lr_power) * lr) + 2 * l2 var = (dấu(tuyến tính) * l1 - tuyến tính) / bậc hai nếu |tuyến tính| > l1 khác 0,0 tích lũy = tích lũy_new
Lập luận:
- phạm vi: Một đối tượng Phạm vi
- var: Phải từ một Biến().
- tích lũy: Phải từ một Biến().
- tuyến tính: Phải từ một Biến().
- grad: Độ dốc.
- chỉ số: Một vectơ chỉ số vào chiều thứ nhất của var và accum.
- lr: Hệ số tỷ lệ. Phải là một vô hướng.
- l1: Chính quy hóa L1. Phải là một vô hướng.
- l2: Chính quy hóa độ co rút L2. Phải là một vô hướng.
- lr_power: Hệ số tỷ lệ. Phải là một vô hướng.
Thuộc tính tùy chọn (xem Attrs
):
- use_locking: Nếu
True
, việc cập nhật các tensor var và accum sẽ được bảo vệ bằng khóa; mặt khác, hành vi không được xác định, nhưng có thể ít gây tranh cãi hơn.
Trả về:
-
Output
: Giống như "var".
Hàm tạo và hàm hủy | |
---|---|
SparseApplyFtrlV2 (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input l2_shrinkage, :: tensorflow::Input lr_power) | |
SparseApplyFtrlV2 (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input linear, :: tensorflow::Input grad, :: tensorflow::Input indices, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input l2_shrinkage, :: tensorflow::Input lr_power, const SparseApplyFtrlV2::Attrs & attrs) |
Thuộc tính công khai | |
---|---|
operation | |
out |
Chức năng công cộng | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
Các hàm tĩnh công khai | |
---|---|
UseLocking (bool x) |
Cấu trúc | |
---|---|
tenorflow:: ops:: SparseApplyFtrlV2:: Attrs | Bộ cài đặt thuộc tính tùy chọn cho SparseApplyFtrlV2 . |
Thuộc tính công khai
hoạt động
Operation operation
ngoài
::tensorflow::Output out
Chức năng công cộng
Thưa thớtÁp dụngFtrlV2
SparseApplyFtrlV2( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input l2_shrinkage, ::tensorflow::Input lr_power )
Thưa thớtÁp dụngFtrlV2
SparseApplyFtrlV2( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input linear, ::tensorflow::Input grad, ::tensorflow::Input indices, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input l2_shrinkage, ::tensorflow::Input lr_power, const SparseApplyFtrlV2::Attrs & attrs )
nút
::tensorflow::Node * node() const
toán tử::tenorflow::Đầu vào
operator::tensorflow::Input() const
toán tử::tenorflow::Đầu ra
operator::tensorflow::Output() const
Các hàm tĩnh công khai
Sử dụngKhóa
Attrs UseLocking( bool x )