עדכן את '*var' לפי אלגוריתם Adam.
$$lr_t := \text{learning\_rate} * \sqrt{1 - beta_2^t} / (1 - beta_1^t)$$$$m_t := beta_1 * m_{t-1} + (1 - beta_1) * g$$$$v_t := beta_2 * v_{t-1} + (1 - beta_2) * g * g$$$$variable := variable - lr_t * m_t / (\sqrt{v_t} + \epsilon)$$
כיתות מקוננות
מַחלָקָה | ApplyAdam.Options | תכונות אופציונליות עבור ApplyAdam |
קבועים
חוּט | OP_NAME | השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow |
שיטות ציבוריות
פלט <T> | asOutput () מחזירה את הידית הסמלית של הטנזור. |
סטטי <T מרחיב את TType > ApplyAdam <T> | |
פלט <T> | החוצה () זהה ל-"var". |
סטטי ApplyAdam.Options | useLocking (useLocking בוליאני) |
סטטי ApplyAdam.Options | useNesterov (בוליאני useNesterov) |
שיטות בירושה
קבועים
מחרוזת סופית סטטית ציבורית OP_NAME
השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow
שיטות ציבוריות
פלט ציבורי <T> asOutput ()
מחזירה את הידית הסמלית של הטנזור.
כניסות לפעולות TensorFlow הן יציאות של פעולת TensorFlow אחרת. שיטה זו משמשת להשגת ידית סמלית המייצגת את חישוב הקלט.
public static ApplyAdam <T> create ( Scope scope, Operand <T> var, Operand <T> m, Operand <T> v, Operand <T> beta1Power, Operand <T> beta2Power, Operand <T> lr, Operand <T > beta1, Operand <T> beta2, Operand <T> epsilon, Operand <T> grad, Options... options)
שיטת מפעל ליצירת מחלקה העוטפת פעולת ApplyAdam חדשה.
פרמטרים
תְחוּם | ההיקף הנוכחי |
---|---|
var | צריך להיות ממשתנה(). |
מ | צריך להיות ממשתנה(). |
v | צריך להיות ממשתנה(). |
beta1Power | חייב להיות סקלר. |
beta2Power | חייב להיות סקלר. |
lr | גורם קנה מידה. חייב להיות סקלר. |
בטא1 | גורם מומנטום. חייב להיות סקלר. |
בטא2 | גורם מומנטום. חייב להיות סקלר. |
אפסילון | מונח רכס. חייב להיות סקלר. |
גראד | השיפוע. |
אפשרויות | נושא ערכי תכונות אופציונליות |
מחזיר
- מופע חדש של ApplyAdam
סטטי ציבורי ApplyAdam.Options useLocking (בוליאני useLocking)
פרמטרים
השתמש בנעילה | אם 'נכון', עדכון הטנזורים var, m ו-v יהיה מוגן על ידי מנעול; אחרת ההתנהגות אינה מוגדרת, אך עלולה להפגין פחות מחלוקת. |
---|
public static ApplyAdam.Options useNesterov (בוליאני useNesterov)
פרמטרים
השתמש ב-Nesterov | אם 'נכון', משתמש בעדכון Nestrov. |
---|