VarianceScaling

אתחול המסוגל להתאים את קנה המידה שלו לצורת טנסור המשקולות.

עם distribution=TRUNCATED_NORMAL or NORMAL , דגימות נלקחות מהתפלגות נורמלית קטומה/לא קטועה עם ממוצע של אפס וסטיית תקן (לאחר חיתוך, אם נעשה שימוש) stddev = Math.sqrt(scale / n) , כאשר n הוא:

• מספר יחידות הקלט בטנזור המשקל, אם mode=FAN_IN
• מספר יחידות הפלט, אם mode=FAN_OUT
• ממוצע של מספר יחידות הקלט והפלט, אם mode=FAN_AVG

עם distribution=UNIFORM , דגימות נלקחות מהתפלגות אחידה בתוך [-limit, limit] , כאשר limit = Math.sqrt(3 * scale / n); .

דוגמאות:

      long seed = 1234l;
      float scale = 0.1f;
      VarianceScaling<TFloat32, TFloat32> initializer =
          new org.tensorflow.framework.initializers.VarianceScaling<>(
              tf, scale, Mode.FAN_IN, Distribution.UNIFORM, seed);
      Operand<TFloat32> values =
          initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);