LeCun

LeCun обычный инициализатор.

Рисует образцы из случайного распределения. * *

Если распределение TRUNCATED_NORMAL, оно извлекает выборки из усеченного нормального распределения с центром в 0 с помощью stddev = sqrt(1 / fanIn) где fanIn — это количество входных единиц в тензоре веса.

Если распределение UNIFORM, он извлекает образцы из равномерного распределения в пределах [-limit, limit] , где limit = Math.sqrt(3 / fanIn) ( fanIn — количество входных единиц в тензоре веса).

Примеры:

ЛеКун Нормальный:

      long seed = 1001l;
      LeCunNormal<TFloat32, TFloat32> initializer =
              new org.tensorflow.framework.initializers.LeCunNormal<>(tf,
               Distribution.TRUNCATED_NORMAL, seed);
      Operand<TFloat32> values =
              initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

Униформа Лекуна:

      long seed = 1001l;
      LeCunNormal<TFloat32, TFloat32> initializer =
              new org.tensorflow.framework.initializers.LeCunNormal<>(tf,
               Distribution.UNIFORM, seed);
      Operand<TFloat32> values =
              initializer.call(tf.constant(Shape.of(2,2)), TFloat32.class);
 

ПРИМЕЧАНИЕ: *

Для эквивалентного инициализатора LeCunNormal используйте TRUNCATED_NORMAL в качестве параметра распределения. *

Для эквивалентного инициализатора LeCunUniform используйте UNIFORM * в качестве параметра распределения. *