LeCun

אתחול רגיל של LeCun.

שואב מדגמים מהתפלגות אקראית. * *

אם ההתפלגות היא TRUNCATED_NORMAL, הוא שואב דגימות מהתפלגות נורמלית קטומה שבמרכזה 0 עם stddev = sqrt(1 / fanIn) כאשר fanIn הוא מספר יחידות הקלט בטנזור המשקל.

אם ההתפלגות היא UNIFORM, היא שואבת דוגמאות מהתפלגות אחידה בתוך [-limit, limit] , כאשר limit = Math.sqrt(3 / fanIn) ( fanIn הוא מספר יחידות הקלט בטנזור המשקל)

דוגמאות:

LeCun רגיל:

      long seed = 1001l;
      LeCunNormal<TFloat32, TFloat32> initializer =
              new org.tensorflow.framework.initializers.LeCunNormal<>(tf,
               Distribution.TRUNCATED_NORMAL, seed);
      Operand<TFloat32> values =
              initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

מדי LeCun:

      long seed = 1001l;
      LeCunNormal<TFloat32, TFloat32> initializer =
              new org.tensorflow.framework.initializers.LeCunNormal<>(tf,
               Distribution.UNIFORM, seed);
      Operand<TFloat32> values =
              initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

הערה: *

עבור אתחול המקביל של LeCunNormal, השתמש ב- TRUNCATED_NORMAL עבור פרמטר ההפצה. *

עבור אתחול המקביל של LeCunUniform, השתמש ב- UNIFORM * עבור פרמטר ההפצה. *