Cập nhật các mục nhập có liên quan trong '*var' theo sơ đồ gần Ftrl.
Đó là đối với các hàng mà chúng tôi có grad, chúng tôi cập nhật var, accum và tuyến tính như sau: grad_with_shrinkage = grad + 2 * l2_shrinkage * var accum_new = accum + grad_with_shrinkage * grad_with_shrinkage tuyến tính += grad_with_shrinkage + (accum_new^(-lr_power) - accum^ (-lr_power)) / lr * var bậc hai = 1.0 / (accum_new^(lr_power) * lr) + 2 * l2 var = (dấu(tuyến tính) * l1 - tuyến tính) / bậc hai nếu |tuyến tính| > l1 khác 0,0 tích lũy = tích lũy_new
Các lớp lồng nhau
lớp học | ResourceSparseApplyFtrl.Options | Thuộc tính tùy chọn cho ResourceSparseApplyFtrl |
Hằng số
Sợi dây | OP_NAME | Tên của op này, được biết đến bởi công cụ lõi TensorFlow |
Phương pháp công cộng
tĩnh <T mở rộng TType > ResourceSparseApplyFtrl | tạo ( Phạm vi phạm vi, Toán hạng <?> var, Toán hạng <?> accum, Toán hạng <?> tuyến tính, Toán hạng <T> grad, Toán hạng <? mở rộng TNumber > chỉ số, Toán hạng <T> lr, Toán hạng <T> l1, Toán hạng <T> l2, Toán hạng <T> l2Thu nhỏ, Toán hạng <T> lrPower, Tùy chọn... tùy chọn) Phương thức xuất xưởng để tạo một lớp bao bọc một thao tác ResourceSparseApplyFtrl mới. |
tĩnh ResourceSparseApplyFtrl.Options | nhânLinearByLr (BooleannhânLinearByLr) |
tĩnh ResourceSparseApplyFtrl.Options | useLocking (Boolean useLocking) |
Phương pháp kế thừa
Hằng số
Chuỗi cuối cùng tĩnh công khai OP_NAME
Tên của op này, được biết đến bởi công cụ lõi TensorFlow
Phương pháp công cộng
public static ResourceSparseApplyFtrl tạo ( Phạm vi phạm vi, Toán hạng <?> var, Toán hạng <?> accum, Toán hạng <?> tuyến tính, Toán hạng <T> grad, Toán hạng <? mở rộng TNumber > chỉ số, Toán hạng <T> lr, Toán hạng <T> l1, Toán hạng <T> l2, Toán hạng <T> l2Thu nhỏ, Toán hạng <T> lrPower, Tùy chọn... tùy chọn)
Phương thức xuất xưởng để tạo một lớp bao bọc một thao tác ResourceSparseApplyFtrl mới.
Thông số
phạm vi | phạm vi hiện tại |
---|---|
var | Phải từ một Biến(). |
tích lũy | Phải từ một Biến(). |
tuyến tính | Phải từ một Biến(). |
tốt nghiệp | Độ dốc. |
chỉ số | Một vectơ chỉ số theo chiều thứ nhất của var và accum. |
lr | Yếu tố nhân rộng. Phải là một vô hướng. |
l1 | Chính quy hóa L1. Phải là một vô hướng. |
l2 | Chính quy hóa co ngót L2. Phải là một vô hướng. |
lrPower | Yếu tố nhân rộng. Phải là một vô hướng. |
tùy chọn | mang các giá trị thuộc tính tùy chọn |
Trả lại
- một phiên bản mới của ResourceSparseApplyFtrl
public static ResourceSparseApplyFtrl.Options useLocking (Boolean useLocking)
Thông số
sử dụngKhóa | Nếu `True`, việc cập nhật các tensor var và accum sẽ được bảo vệ bằng khóa; mặt khác, hành vi không được xác định, nhưng có thể ít gây tranh cãi hơn. |
---|