আলফা ড্রপআউট

@frozen
public struct AlphaDropout<Scalar> : ParameterlessLayer where Scalar : TensorFlowFloatingPoint

একটি আলফা ড্রপআউট স্তর।

আলফা ড্রপআউট হল একটি Dropout যা এই ড্রপআউটের পরেও স্ব-স্বাভাবিক বৈশিষ্ট্য নিশ্চিত করার জন্য তাদের মূল মানগুলিতে ইনপুটগুলির গড় এবং তারতম্য রাখে। আলফা ড্রপআউট এলোমেলোভাবে নেতিবাচক স্যাচুরেশন মানতে অ্যাক্টিভেশন সেট করে স্কেল করা সূচকীয় রৈখিক ইউনিটের সাথে ভালভাবে ফিট করে।

সূত্র: সেলফ-নরমালাইজিং নিউরাল নেটওয়ার্ক: https://arxiv.org/abs/1706.02515

  • ঘোষণা

    public typealias TangentVector = EmptyTangentVector
  • ঘোষণা

    @noDerivative
    public let probability: Double
  • একটি কনফিগারযোগ্য probability সহ একটি AlphaDropout স্তর শুরু করে।

    পূর্বশর্ত

    সম্ভাব্যতা অবশ্যই 0 এবং 1 এর মধ্যে একটি মান হতে হবে (অন্তর্ভুক্ত)।

    ঘোষণা

    public init(probability: Double)

    পরামিতি

    probability

    একটি নোড ড্রপ আউট সম্ভাবনা.

  • প্রশিক্ষণের সময় input শব্দ যোগ করে এবং অনুমান করার সময় একটি নো-অপ।

    ঘোষণা

    @differentiable
    public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>