RMSProp

অপ্টিমাইজার যা RMSProp অ্যালগরিদম প্রয়োগ করে।

RMSprop এর সারমর্ম হল:

• গ্রেডিয়েন্টের বর্গক্ষেত্রের চলমান (ছাড়) গড় বজায় রাখুন
• এই গড়টির মূল দিয়ে গ্রেডিয়েন্টকে ভাগ করুন

RMSprop-এর এই বাস্তবায়ন প্লেইন মোমেন্টাম ব্যবহার করে, নেস্টেরভ মোমেন্টাম নয়।

কেন্দ্রীভূত সংস্করণ অতিরিক্তভাবে গ্রেডিয়েন্টের একটি চলমান গড় বজায় রাখে এবং বৈচিত্র অনুমান করতে সেই গড় ব্যবহার করে।