เทนเซอร์โฟลว์:: ปฏิบัติการ:: SparseApplyProximalGradientDescent
#include <training_ops.h>
การอัปเดตแบบกระจัดกระจาย '*var' เป็นอัลกอริทึม FOBOS พร้อมอัตราการเรียนรู้คงที่
สรุป
นั่นคือสำหรับแถวที่เราได้ผู้สำเร็จการศึกษา เราจะอัปเดต var ดังนี้:
$$prox_v = var - alpha * grad$$
$$var = sign(prox_v)/(1+alpha*l2) * max{|prox_v|-alpha*l1,0}$$
ข้อโต้แย้ง:
- ขอบเขต: วัตถุ ขอบเขต
- var: ควรมาจากตัวแปร ()
- อัลฟา: ปัจจัยการปรับขนาด ต้องเป็นสเกลาร์
- l1: การทำให้เป็นมาตรฐาน L1 ต้องเป็นสเกลาร์
- l2: การทำให้เป็นมาตรฐาน L2 ต้องเป็นสเกลาร์
- ผู้สำเร็จการศึกษา: การไล่ระดับสี
- ดัชนี: เวกเตอร์ของดัชนีในมิติแรกของ var และ accum
แอ็ตทริบิวต์ทางเลือก (ดู Attrs
):
- use_locking: ถ้าเป็น True การลบจะถูกป้องกันด้วยการล็อค มิฉะนั้นพฤติกรรมจะไม่ได้กำหนดไว้ แต่อาจแสดงความขัดแย้งน้อยลง
ผลตอบแทน:
-
Output
: เหมือนกับ "var"
ตัวสร้างและผู้ทำลาย | |
---|---|
SparseApplyProximalGradientDescent (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input alpha, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
SparseApplyProximalGradientDescent (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input alpha, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const SparseApplyProximalGradientDescent::Attrs & attrs) |
คุณลักษณะสาธารณะ | |
---|---|
operation | |
out |
งานสาธารณะ | |
---|---|
node () const | ::tensorflow::Node * |
operator::tensorflow::Input () const | |
operator::tensorflow::Output () const |
ฟังก์ชันคงที่สาธารณะ | |
---|---|
UseLocking (bool x) |
โครงสร้าง | |
---|---|
เทนเซอร์โฟลว์ :: ops :: SparseApplyProximalGradientDescent :: Attrs | ตัวตั้งค่าแอ็ตทริบิวต์ทางเลือกสำหรับ SparseApplyProximalGradientDescent |
คุณลักษณะสาธารณะ
การดำเนินการ
Operation operation
ออก
::tensorflow::Output out
งานสาธารณะ
SparseApplyProximalGradientDescent
SparseApplyProximalGradientDescent( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input alpha, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
SparseApplyProximalGradientDescent
SparseApplyProximalGradientDescent( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input alpha, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const SparseApplyProximalGradientDescent::Attrs & attrs )
โหนด
::tensorflow::Node * node() const
ตัวดำเนินการ::tensorflow::อินพุต
operator::tensorflow::Input() const
ตัวดำเนินการ::tensorflow::เอาต์พุต
operator::tensorflow::Output() const
ฟังก์ชันคงที่สาธารณะ
ใช้ล็อค
Attrs UseLocking( bool x )