เทนเซอร์โฟลว์:: ปฏิบัติการ:: ทรัพยากรSparseApplyProximalAdagrad
#include <training_ops.h>
รายการอัปเดตแบบกระจัดกระจายใน '*var' และ '*accum' ตามอัลกอริทึม FOBOS
สรุป
นั่นคือสำหรับแถวที่เรามี grad เราอัปเดต var และ accum ดังนี้: accum += grad * grad prox_v = var prox_v -= lr * grad * (1 / sqrt(accum)) var = sign(prox_v)/(1 +lr*l2) * สูงสุด{|prox_v|-lr*l1,0}
ข้อโต้แย้ง:
- ขอบเขต: วัตถุ ขอบเขต
- var: ควรมาจากตัวแปร ()
- accum: ควรมาจากตัวแปร ()
- lr: อัตราการเรียนรู้ ต้องเป็นสเกลาร์
- l1: การทำให้เป็นมาตรฐาน L1 ต้องเป็นสเกลาร์
- l2: การทำให้เป็นมาตรฐาน L2 ต้องเป็นสเกลาร์
- ผู้สำเร็จการศึกษา: การไล่ระดับสี
- ดัชนี: เวกเตอร์ของดัชนีในมิติแรกของ var และ accum
แอ็ตทริบิวต์ทางเลือก (ดู Attrs
):
- use_locking: หากเป็น True การอัปเดต var และ accum tensor จะได้รับการปกป้องด้วยการล็อค มิฉะนั้นพฤติกรรมจะไม่ได้กำหนดไว้ แต่อาจแสดงความขัดแย้งน้อยลง
ผลตอบแทน:
-
Operation
ที่สร้างขึ้น
ตัวสร้างและผู้ทำลาย | |
---|---|
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs) |
คุณลักษณะสาธารณะ | |
---|---|
operation |
งานสาธารณะ | |
---|---|
operator::tensorflow::Operation () const |
ฟังก์ชันคงที่สาธารณะ | |
---|---|
UseLocking (bool x) |
โครงสร้าง | |
---|---|
เทนเซอร์โฟลว์ :: ops :: ResourceSparseApplyProximalAdagrad :: Attrs | ตัวตั้งค่าแอ็ตทริบิวต์ทางเลือกสำหรับ ResourceSparseApplyProximalAdagrad |
คุณลักษณะสาธารณะ
การดำเนินการ
Operation operation
งานสาธารณะ
ทรัพยากรSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
ทรัพยากรSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs )
ตัวดำเนินการ::เทนเซอร์โฟลว์::การทำงาน
operator::tensorflow::Operation() const
ฟังก์ชันคงที่สาธารณะ
ใช้ล็อค
Attrs UseLocking( bool x )