אופטימיזציה המיישמת את אלגוריתם ה-Adagrad Dual-Averaging.
אופטימיזציה זו דואגת להסדרה של תכונות בלתי נראות במיני אצווה על ידי עדכון שלהן כאשר הן נראות עם כלל עדכון טופס סגור השווה לעדכון שלהן בכל מיני אצווה.
בדרך כלל נעשה שימוש ב-AdagradDA כאשר יש צורך בדלילות גדולה במודל המאומן. מייעל זה מבטיח רק דלילות עבור דגמים ליניאריים. היזהר בעת שימוש ב-AdagradDA עבור רשתות עמוקות, מכיוון שזה ידרוש אתחול קפדני של מצברי השיפוע כדי שיוכל להתאמן.
קבועים
חוּט | מַצבֵּר | |
לָצוּף | INITIAL_ACCUMULATOR_DEFAULT | |
לָצוּף | L1_STRENGTH_DEFAULT | |
לָצוּף | L2_STRENGTH_DEFAULT | |
לָצוּף | LEARNING_RATE_DEFAULT | |
חוּט | SQUARED_ACCUMULATOR |
קבועים בירושה
בונים ציבוריים
שיטות ציבוריות
חוּט | getOptimizerName () קבל את השם של מייעל האופטימיזציה. |
חוּט | toString () |
שיטות בירושה
קבועים
מחרוזת סופית סטטית ציבורית ACCUMULATOR
ציפה סופית סטטית ציבורית INITIAL_ACCUMULATOR_DEFAULT
ציפה סופית סטטית ציבורית L1_STRENGTH_DEFAULT
ציפה סופית סטטית ציבורית L2_STRENGTH_DEFAULT
ציפה סופית סטטית ציבורית LEARNING_RATE_DEFAULT
מחרוזת סופית סטטית ציבורית SQUARED_ACCUMULATOR
בונים ציבוריים
Public AdaGradDA ( גרף גרף, Float learningRate)
יוצר אופטימיזציה של AdaGradDA
פרמטרים
גרָף | גרף TensorFlow |
---|---|
קצב למידה | קצב הלמידה |
Public AdaGradDA ( גרף גרף, float learningRate, float initialAccumulatorValue, float l1Strength, float l2Strength)
יוצר אופטימיזציה של AdaGradDA
פרמטרים
גרָף | גרף TensorFlow |
---|---|
קצב למידה | קצב הלמידה |
initialAccumulatorValue | ערך התחלתי עבור המצברים, חייב להיות גדול מאפס. |
l1 כוח | עוצמת הסדרת l1, חייבת להיות גדולה או שווה לאפס. |
l2Strength | עוצמת הרגולציה l2, חייבת להיות גדולה או שווה לאפס. |
זורק
חריג טיעון לא חוקי | אם initialAccumulatorValue אינו גדול מאפס, או l1Strength או l2Strength קטן מאפס |
---|
Public AdaGradDA (גרף גרף , שם מחרוזת, Float learningRate)
יוצר אופטימיזציה של AdaGradDA
פרמטרים
גרָף | גרף TensorFlow |
---|---|
שֵׁם | השם של כלי האופטימיזציה הזה (ברירת המחדל היא 'adagrad-da') |
קצב למידה | קצב הלמידה |
Public AdaGradDA ( גרף גרף , שם מחרוזת, float learningRate, float initialAccumulatorValue, float l1Strength, float l2Strength)
יוצר אופטימיזציה של AdaGradDA
פרמטרים
גרָף | גרף TensorFlow |
---|---|
שֵׁם | השם של כלי האופטימיזציה הזה (ברירת המחדל היא 'adagrad-da') |
קצב למידה | קצב הלמידה |
initialAccumulatorValue | ערך התחלתי עבור המצברים, חייב להיות חיובי |
l1 כוח | עוצמת הסדרת l1, חייבת להיות גדולה או שווה לאפס. |
l2Strength | עוצמת הרגולציה l2, חייבת להיות גדולה או שווה לאפס. |
זורק
חריג טיעון לא חוקי | אם initialAccumulatorValue אינו גדול מאפס, או * l1Strength או l2Strength הוא קטן מאפס |
---|
שיטות ציבוריות
מחרוזת ציבורית getOptimizerName ()
קבל את השם של מייעל האופטימיזציה.
החזרות
- שם האופטימיזציה.