Actualice '*var' según el algoritmo RMSProp.
Tenga en cuenta que en una implementación densa de este algoritmo, ms y mom se actualizarán incluso si el grad es cero, pero en esta implementación escasa, ms y mom no se actualizarán en iteraciones durante las cuales el grad sea cero.
cuadrado_medio = decaimiento * cuadrado_medio + (1-decaimiento) * gradiente ** 2 Delta = tasa_de_aprendizaje * gradiente / sqrt (cuadrado_medio + épsilon)
ms <- rho * ms_{t-1} + (1-rho) * grad * grad mamá <- impulso * mamá_{t-1} + lr * grad / sqrt(ms + épsilon) var <- var - mamá
Clases anidadas
clase | AplicarRmsProp.Opciones | Atributos opcionales para ApplyRmsProp |
Constantes
Cadena | OP_NOMBRE | El nombre de esta operación, como lo conoce el motor central de TensorFlow. |
Métodos públicos
Salida <T> | como salida () Devuelve el identificador simbólico del tensor. |
estático <T extiende TType > ApplyRmsProp <T> | |
Salida <T> | afuera () Igual que "var". |
Estático ApplyRmsProp.Options | useLocking (uso booleano Locking) |
Métodos heredados
booleano | es igual (Objeto arg0) |
Clase final<?> | obtenerclase () |
En t | código hash () |
vacío final | notificar () |
vacío final | notificar a todos () |
Cadena | Encadenar () |
vacío final | esperar (arg0 largo, int arg1) |
vacío final | espera (largo arg0) |
vacío final | esperar () |
entorno de ejecución abstracto | entorno () Devuelve el entorno de ejecución en el que se creó esta operación. |
operación abstracta |
Salida abstracta <T> | como salida () Devuelve el identificador simbólico del tensor. |
resumen T | como Tensor () Devuelve el tensor en este operando. |
forma abstracta | |
clase abstracta<T> | tipo () Devuelve el tipo de tensor de este operando. |
Constantes
Cadena final estática pública OP_NAME
El nombre de esta operación, como lo conoce el motor central de TensorFlow.
Métodos públicos
Salida pública <T> como Salida ()
Devuelve el identificador simbólico del tensor.
Las entradas a las operaciones de TensorFlow son salidas de otra operación de TensorFlow. Este método se utiliza para obtener un identificador simbólico que representa el cálculo de la entrada.
public static ApplyRmsProp <T> create ( Alcance alcance, Operando <T> var, Operando <T> ms, Operando <T> mom, Operando <T> lr, Operando <T> rho, Operando <T> impulso, Operando <T > épsilon, Operando <T> grad, Opciones... opciones)
Método de fábrica para crear una clase que envuelve una nueva operación ApplyRmsProp.
Parámetros
alcance | alcance actual |
---|---|
var | Debe ser de una Variable(). |
EM | Debe ser de una Variable(). |
mamá | Debe ser de una Variable(). |
lr | Factor de escala. Debe ser un escalar. |
rho | Tasa de descomposición. Debe ser un escalar. |
épsilon | Término de cresta. Debe ser un escalar. |
graduado | El gradiente. |
opciones | lleva valores de atributos opcionales |
Devoluciones
- una nueva instancia de ApplyRmsProp
público estático ApplyRmsProp.Options useLocking (useLocking booleano)
Parámetros
utilizarBloqueo | Si es "True", la actualización de los tensores var, ms y mom está protegida por un bloqueo; de lo contrario, el comportamiento no está definido, pero puede presentar menos contención. |
---|