@frozen
public struct BatchNorm<Scalar> : Layer where Scalar : TensorFlowFloatingPoint
একটি ব্যাচ স্বাভাবিককরণ স্তর।
প্রতিটি ব্যাচে পূর্ববর্তী স্তরের অ্যাক্টিভেশনকে স্বাভাবিক করে, অর্থাৎ একটি রূপান্তর প্রয়োগ করে যা গড় অ্যাক্টিভেশন 0
এর কাছাকাছি এবং অ্যাক্টিভেশন স্ট্যান্ডার্ড বিচ্যুতি 1
এর কাছাকাছি বজায় রাখে।
রেফারেন্স: ব্যাচ স্বাভাবিককরণ: অভ্যন্তরীণ কোভেরিয়েট শিফট হ্রাস করে গভীর নেটওয়ার্ক প্রশিক্ষণকে ত্বরান্বিত করা ।
বৈশিষ্ট্য মাত্রা.
ঘোষণা
@noDerivative public let axis: Int
চলমান গড় এবং চলমান ভিন্নতার জন্য ভরবেগ।
ঘোষণা
@noDerivative public let momentum: Scalar
অফসেট মান, বিটা নামেও পরিচিত।
ঘোষণা
public var offset: Tensor<Scalar>
স্কেল মান, গামা নামেও পরিচিত।
ঘোষণা
public var scale: Tensor<Scalar>
ভ্যারিয়েন্স এপিসিলন মান।
ঘোষণা
@noDerivative public let epsilon: Scalar
চলমান মানে.
ঘোষণা
@noDerivative public var runningMean: Parameter<Scalar>
চলমান বৈচিত্র।
ঘোষণা
@noDerivative public var runningVariance: Parameter<Scalar>
একটি ব্যাচ স্বাভাবিককরণ স্তর তৈরি করে।
ঘোষণা
পরামিতি
axis
যে অক্ষটি স্বাভাবিক করা উচিত নয় (সাধারণত বৈশিষ্ট্য অক্ষ)।
momentum
চলমান গড় জন্য ভরবেগ.
offset
স্বাভাবিকীকৃত টেনসরে যোগ করা অফসেট।
scale
যে স্কেল দ্বারা স্বাভাবিক করা টেনসরকে গুণ করা হবে।
epsilon
সাংখ্যিক স্থিতিশীলতা উন্নত করতে হরটিতে একটি ছোট স্কেলার যোগ করা হয়েছে।
runningMean
চলমান মানে.
runningVariance
চলমান বৈচিত্র।
একটি ব্যাচ স্বাভাবিককরণ স্তর তৈরি করে।
ঘোষণা
public init( featureCount: Int, axis: Int = -1, momentum: Scalar = 0.99, epsilon: Scalar = 0.001 )
পরামিতি
featureCount
বৈশিষ্ট্য সংখ্যা.
axis
যে অক্ষটি স্বাভাবিক করা উচিত (সাধারণত বৈশিষ্ট্য অক্ষ)।
momentum
চলমান গড় জন্য ভরবেগ.
epsilon
সাংখ্যিক স্থিতিশীলতা উন্নত করতে হরটিতে একটি ছোট স্কেলার যোগ করা হয়েছে।