ব্যাচনর্ম

@frozen
public struct BatchNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint

একটি ব্যাচ স্বাভাবিককরণ স্তর।

প্রতিটি ব্যাচে পূর্ববর্তী স্তরের অ্যাক্টিভেশনকে স্বাভাবিক করে, অর্থাৎ একটি রূপান্তর প্রয়োগ করে যা গড় অ্যাক্টিভেশন 0 এর কাছাকাছি এবং অ্যাক্টিভেশন স্ট্যান্ডার্ড বিচ্যুতি 1 এর কাছাকাছি বজায় রাখে।

রেফারেন্স: ব্যাচ স্বাভাবিককরণ: অভ্যন্তরীণ কোভেরিয়েট শিফট হ্রাস করে গভীর নেটওয়ার্ক প্রশিক্ষণকে ত্বরান্বিত করা

  • বৈশিষ্ট্য মাত্রা.

    ঘোষণা

    @noDerivative
    public let axis: Int
  • চলমান গড় এবং চলমান ভিন্নতার জন্য ভরবেগ।

    ঘোষণা

    @noDerivative
    public let momentum: Scalar
  • অফসেট মান, বিটা নামেও পরিচিত।

    ঘোষণা

    public var offset: Tensor<Scalar>
  • স্কেল মান, গামা নামেও পরিচিত।

    ঘোষণা

    public var scale: Tensor<Scalar>
  • ভ্যারিয়েন্স এপিসিলন মান।

    ঘোষণা

    @noDerivative
    public let epsilon: Scalar
  • চলমান মানে.

    ঘোষণা

    @noDerivative
    public var runningMean: Parameter<Scalar>
  • চলমান বৈচিত্র।

    ঘোষণা

    @noDerivative
    public var runningVariance: Parameter<Scalar>
  • একটি ব্যাচ স্বাভাবিককরণ স্তর তৈরি করে।

    ঘোষণা

    public init(
      axis: Int,
      momentum: Scalar,
      offset: Tensor<Scalar>,
      scale: Tensor<Scalar>,
      epsilon: Scalar,
      runningMean: Tensor<Scalar>,
      runningVariance: Tensor<Scalar>
    )

    পরামিতি

    axis

    যে অক্ষটি স্বাভাবিক করা উচিত নয় (সাধারণত বৈশিষ্ট্য অক্ষ)।

    momentum

    চলমান গড় জন্য ভরবেগ.

    offset

    স্বাভাবিকীকৃত টেনসরে যোগ করা অফসেট।

    scale

    যে স্কেল দ্বারা স্বাভাবিক করা টেনসরকে গুণ করা হবে।

    epsilon

    সাংখ্যিক স্থিতিশীলতা উন্নত করতে হরটিতে একটি ছোট স্কেলার যোগ করা হয়েছে।

    runningMean

    চলমান মানে.

    runningVariance

    চলমান বৈচিত্র।

  • প্রদত্ত ইনপুটে স্তর প্রয়োগ করে প্রাপ্ত আউটপুট ফেরত দেয়।

    ঘোষণা

    @differentiable
    public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>

    পরামিতি

    input

    লেয়ারে ইনপুট।

    রিটার্ন ভ্যালু

    আউটপুট।

  • একটি ব্যাচ স্বাভাবিককরণ স্তর তৈরি করে।

    ঘোষণা

    public init(
      featureCount: Int,
      axis: Int = -1,
      momentum: Scalar = 0.99,
      epsilon: Scalar = 0.001
    )

    পরামিতি

    featureCount

    বৈশিষ্ট্য সংখ্যা.

    axis

    যে অক্ষটি স্বাভাবিক করা উচিত (সাধারণত বৈশিষ্ট্য অক্ষ)।

    momentum

    চলমান গড় জন্য ভরবেগ.

    epsilon

    সাংখ্যিক স্থিতিশীলতা উন্নত করতে হরটিতে একটি ছোট স্কেলার যোগ করা হয়েছে।