BatchNorm

@frozen
public struct BatchNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

طبقة التطبيع دفعة.

يعمل على تطبيع عمليات تنشيط الطبقة السابقة في كل دفعة، أي تطبيق تحويل يحافظ على متوسط ​​التنشيط بالقرب من 0 والانحراف المعياري للتنشيط بالقرب من 1 .

المرجع: تطبيع الدفعة: تسريع تدريب الشبكة العميقة عن طريق تقليل التحول المتغير الداخلي .

  • البعد الميزة.

    تصريح

    @noDerivative
    public let axis: Int
  • الزخم للمتوسط ​​الجاري والتباين الجاري.

    تصريح

    @noDerivative
    public let momentum: Scalar
  • قيمة الإزاحة، والمعروفة أيضًا باسم بيتا.

    تصريح

    public var offset: Tensor<Scalar>
  • قيمة المقياس، والمعروفة أيضًا باسم جاما.

    تصريح

    public var scale: Tensor<Scalar>
  • قيمة التباين إبسيلون

    تصريح

    @noDerivative
    public let epsilon: Scalar
  • الجري يعني.

    تصريح

    @noDerivative
    public var runningMean: Parameter<Scalar>
  • تباين الجري.

    تصريح

    @noDerivative
    public var runningVariance: Parameter<Scalar>
  • إنشاء طبقة تطبيع دفعة.

    تصريح

    public init(
      axis: Int,
      momentum: Scalar,
      offset: Tensor<Scalar>,
      scale: Tensor<Scalar>,
      epsilon: Scalar,
      runningMean: Tensor<Scalar>,
      runningVariance: Tensor<Scalar>
    )

    حدود

    axis

    المحور الذي لا ينبغي تطبيعه (عادةً محور الميزة).

    momentum

    الزخم للمتوسط ​​المتحرك.

    offset

    الإزاحة المراد إضافتها إلى الموتر الطبيعي.

    scale

    المقياس المطلوب ضرب الموتر الطبيعي به.

    epsilon

    كمية صغيرة تضاف إلى المقام لتحسين الاستقرار العددي.

    runningMean

    الجري يعني.

    runningVariance

    تباين الجري.

  • إرجاع المخرجات التي تم الحصول عليها من تطبيق الطبقة على المدخلات المحددة.

    تصريح

    @differentiable
    public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

    حدود

    input

    الإدخال إلى الطبقة

    قيمة الإرجاع

    الإخراج.

  • إنشاء طبقة تطبيع دفعة.

    تصريح

    public init(
      featureCount: Int,
      axis: Int = -1,
      momentum: Scalar = 0.99,
      epsilon: Scalar = 0.001
    )

    حدود

    featureCount

    عدد الميزات.

    axis

    المحور الذي يجب تطبيعه (عادةً محور الميزات).

    momentum

    الزخم للمتوسط ​​المتحرك.

    epsilon

    كمية صغيرة تضاف إلى المقام لتحسين الاستقرار العددي.