अल्फ़ाड्रॉपआउट

@frozen
public struct AlphaDropout<Scalar> : ParameterlessLayer where Scalar : TensorFlowFloatingPoint

एक अल्फ़ा ड्रॉपआउट परत.

अल्फा ड्रॉपआउट एक Dropout है जो इस ड्रॉपआउट के बाद भी स्व-सामान्यीकरण संपत्ति को सुनिश्चित करने के लिए इनपुट के माध्य और भिन्नता को उनके मूल मूल्यों पर रखता है। सक्रियण को नकारात्मक संतृप्ति मान पर बेतरतीब ढंग से सेट करके अल्फा ड्रॉपआउट स्केल्ड एक्सपोनेंशियल रैखिक इकाइयों के लिए अच्छी तरह से फिट बैठता है।

स्रोत: स्व-सामान्यीकरण तंत्रिका नेटवर्क: https://arxiv.org/abs/1706.02515

  • घोषणा

    public typealias TangentVector = EmptyTangentVector
  • घोषणा

    @noDerivative
    public let probability: Double
  • एक कॉन्फ़िगर करने योग्य probability के साथ एक AlphaDropout परत को प्रारंभ करता है।

    शर्त लगाना

    संभाव्यता का मान 0 और 1 (समावेशी) के बीच होना चाहिए।

    घोषणा

    public init(probability: Double)

    पैरामीटर

    probability

    किसी नोड के छूटने की संभावना.

  • प्रशिक्षण के दौरान input में शोर जोड़ता है, और अनुमान के दौरान नो-ऑप होता है।

    घोषणा

    @differentiable
    public func forward(_ input: Tensor<Scalar>) -> Tensor<Scalar>