כיתת גמר ציבורית SendTPUEmbeddingGradients
מבצע עדכוני שיפוע של טבלאות הטבעה.
קבועים
חוּט | OP_NAME | השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow |
שיטות ציבוריות
סטטי SendTPUEmbeddingGradients |
שיטות בירושה
קבועים
מחרוזת סופית סטטית ציבורית OP_NAME
השם של המבצע הזה, כפי שידוע על ידי מנוע הליבה של TensorFlow
ערך קבוע: "SendTPUEmbeddingGradients"
שיטות ציבוריות
Public static SendTPUEmbeddingGradients create ( scope scope, Iterable< Operand < TFloat32 >> inputs, Iterable< Operand < TFloat32 >> learningRates, String config)
שיטת מפעל ליצירת מחלקה העוטפת פעולת SendTPUEmbeddingGradients חדשה.
פרמטרים
תְחוּם | ההיקף הנוכחי |
---|---|
תשומות | רשימת Tensor של מעברים שבאמצעותם ניתן לעדכן טבלאות הטמעה. לארגומנט זה יש את אותו אורך וצורות כמו ערך ההחזרה של RecvTPUEmbeddingActivations, אך מכיל גרדיאנטים של אובדן המודל ביחס להפעלות ההטמעה. טבלאות ההטמעה מתעדכנות מהדרגות אלו באמצעות האופטימיזציה שצוינה בתצורת ההטמעה של TPU שניתנה ל-tpu.initialize_system. |
שיעורי למידה | רשימת Tensor של סקלרים של float32, אחד עבור כל תג קצב למידה דינמי: ראה את ההערות ב- //third_party/tensorflow/core/protobuf/tpu/optimization_parameters.proto. טבלאות מרובות יכולות לחלוק את אותו תג קצב למידה דינמי כפי שצוין בתצורה. אם שיעורי הלמידה עבור כל הטבלאות קבועים, רשימה זו צריכה להיות ריקה. |
תצורה | פרוטו TPUEmbeddingConfiguration מסודר. |
החזרות
- מופע חדש של SendTPUEmbeddingGradients