টেনসরফ্লো :: অপস:: অ্যাডাম প্রয়োগ করুন

অ্যাডাম অ্যালগরিদম অনুযায়ী '*var' আপডেট করুন।

সারাংশ

$$lr_t := {learning_rate} * {1 - beta_2^t} / (1 - beta_1^t)$$ $$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$ $$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$ $$variable := variable - lr_t * m_t / ({v_t} + )$$

যুক্তি:

• স্কোপ: একটি স্কোপ অবজেক্ট
• var: একটি পরিবর্তনশীল() থেকে হওয়া উচিত।
• m: একটি পরিবর্তনশীল() থেকে হওয়া উচিত।
• v: একটি পরিবর্তনশীল() থেকে হতে হবে।
• beta1_power: একটি স্কেলার হতে হবে।
• beta2_power: একটি স্কেলার হতে হবে।
• lr: স্কেলিং ফ্যাক্টর। একটি স্কেলার হতে হবে।
• beta1: মোমেন্টাম ফ্যাক্টর। একটি স্কেলার হতে হবে।
• beta2: মোমেন্টাম ফ্যাক্টর। একটি স্কেলার হতে হবে।
• epsilon: রিজ শব্দ। একটি স্কেলার হতে হবে।
• grad: গ্রেডিয়েন্ট।

ঐচ্ছিক বৈশিষ্ট্য (দেখুন Attrs ):

• use_locking: যদি True , var, m, এবং v টেনসর আপডেট করা একটি লক দ্বারা সুরক্ষিত হবে; অন্যথায় আচরণটি অনির্ধারিত, তবে কম বিরোধ প্রদর্শন করতে পারে।
• use_nesterov: True হলে, nesterov আপডেট ব্যবহার করে।

রিটার্ন:

• Output : "var" এর মতোই।

পাবলিক বৈশিষ্ট্য

Operation operation

::tensorflow::Output out

 ApplyAdam(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input m,
  ::tensorflow::Input v,
  ::tensorflow::Input beta1_power,
  ::tensorflow::Input beta2_power,
  ::tensorflow::Input lr,
  ::tensorflow::Input beta1,
  ::tensorflow::Input beta2,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad
)

 ApplyAdam(
  const ::tensorflow::Scope & scope,
  ::tensorflow::Input var,
  ::tensorflow::Input m,
  ::tensorflow::Input v,
  ::tensorflow::Input beta1_power,
  ::tensorflow::Input beta2_power,
  ::tensorflow::Input lr,
  ::tensorflow::Input beta1,
  ::tensorflow::Input beta2,
  ::tensorflow::Input epsilon,
  ::tensorflow::Input grad,
  const ApplyAdam::Attrs & attrs
)

::tensorflow::Node * node() const 

 operator::tensorflow::Input() const 

 operator::tensorflow::Output() const 

Attrs UseLocking(
  bool x
)

Attrs UseNesterov(
  bool x
)