ResourceApplyRmsProp

Zaktualizuj „*var” zgodnie z algorytmem RMSProp.

Należy zauważyć, że w gęstej implementacji tego algorytmu ms i mama zostaną zaktualizowane, nawet jeśli grad będzie wynosić zero, ale w tej rzadkiej implementacji ms i mama nie będą aktualizować się w iteracjach, podczas których grad będzie wynosić zero.

średnia_kwadrat = zanik * średnia_kwadrat + (1-zanik) * gradient ** 2 Delta = szybkość_uczenia się * gradient / sqrt(średnia_kwadrat + epsilon)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mama <- pęd * mama_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mama