ResourceSparseApplyCenteredRmsProp

Cập nhật '*var' theo thuật toán RMSProp tập trung.

Thuật toán RMSProp tập trung sử dụng ước tính mô men thứ hai ở giữa (tức là phương sai) để chuẩn hóa, trái ngược với RMSProp thông thường, sử dụng mô men thứ hai (không tập trung). Điều này thường giúp ích cho việc đào tạo nhưng đắt hơn một chút về mặt tính toán và bộ nhớ.

Lưu ý rằng khi triển khai dày đặc thuật toán này, mg, ms và mom sẽ cập nhật ngay cả khi grad bằng 0, nhưng trong cách triển khai thưa thớt này, mg, ms và mom sẽ không cập nhật trong các lần lặp trong đó grad bằng 0.

trung bình_bình phương = phân rã * trung bình_bình phương + (1-phân rã) * gradient ** 2 trung bình_grad = phân rã * trung bình_grad + (1 phân rã) * gradient Delta = tốc độ học tập * gradient / sqrt(trung_bình + epsilon - trung bình_grad ** 2)

ms <- rho * ms_{t-1} + (1-rho) * grad * grad mẹ <- đà * mom_{t-1} + lr * grad / sqrt(ms + epsilon) var <- var - mom