public struct ParameterGroupOptimizerBuilder
Bir ParameterGroupOptimizer
oluşturur. Bu, esasen modelde tek bir ağırlık seviyesinde kullanılır. ( [Bool]
- ParameterGroupOptimizer) tarafından seçilen parametre gruplarından bir eşleme, son optimize ediciyi tanımlar.
beyan
public init()
beyan
public mutating mutating func makeParameter(_ name: String, _ value: Float) -> GlobalAccessor
beyan
public subscript(global: GlobalAccessor) -> Float { get }
beyan
public subscript(state name: String) -> StateAccessor { mutating get }
beyan
public subscript(local name: String) -> LocalAccessor { mutating get }
Geri arama listesine bir geri arama ekler.
beyan
public mutating mutating func appendCallback(_ cb: @escaping OptimizerCallback)
Optimize ediciyi döndürür ve oluşturucuyu temizler.
beyan
public mutating mutating func makeOptimizer() -> ParameterGroupOptimizer
Geçerli parametre grubu optimizasyonuna momentumlu bir sgdStep uygular.
beyan
public mutating func sgdStep( nesterov: Bool, mom: GlobalAccessor, lr: GlobalAccessor, velocity: StateAccessor )
ClippedTrustRatio'yu hesaplar (LARS'ta kullanılır).
beyan
public mutating func clippedTrustRatio( trustCoefficient: GlobalAccessor, epsilon: GlobalAccessor, weightDecay: GlobalAccessor ) -> LocalAccessor
Degradeyi TrustRatio'ya (LARS'ta kullanılır) göre ölçeklendirir.
beyan
public mutating mutating func scaleGradByTrustRatio(trustRatio: LocalAccessor)
Ağırlık azalması ölçeklendirmesini degradeye uygular.
beyan
public mutating mutating func scaleGradient(byWeightDecay weightDecay: GlobalAccessor)
Yeni eğime (öğrenme hızına göre ölçeklendirilmiş) göre hız parametresini yeniden hesaplar.
beyan
public mutating func updateVelocity( mom: GlobalAccessor, lr: GlobalAccessor, velocity: StateAccessor )