Una operación que carga parámetros de optimización en la memoria integrada.
Una operación que carga parámetros de optimización en la memoria integrada. Debe estar precedido por una operación ConfigureTPUEmbeddingHost que establezca la configuración correcta de la tabla de incrustación. Por ejemplo, esta operación se utiliza para instalar parámetros que se cargan desde un punto de control antes de que se ejecute un ciclo de entrenamiento. Para Adagrad, auxiliar1 deberían ser los acumuladores. Para SGD, todos los valores auxiliares* deben estar vacíos. Para FTRL, auxiliar1 deberían ser los acumuladores y auxiliar2 deberían ser los términos lineales. Para ADAM, auxiliar1 deberían ser los momentos y auxiliar2 deberían ser las velocidades.
Métodos públicos
Carga estáticaTodosTPUEmbeddingParameters | crear ( alcance alcance, Iterable< Operando <Float>> parámetros, Iterable< Operando <Float>> auxiliar1, Iterable< Operando <Float>> auxiliar2, Iterable< Operando <Float>> auxiliar3, Iterable< Operando <Float>> auxiliar4, Iterable< Operando <Float>> auxiliar5, Iterable< Operando <Float>> auxiliar6, Iterable< Operando <Float>> auxiliar7, Configuración de cadena, Long numShards, Long shardId) Método de fábrica para crear una clase que envuelve una nueva operación LoadAllTPUEmbeddingParameters. |
Métodos heredados
Métodos públicos
LoadAllTPUEmbeddingParameters estático público crear ( alcance , Iterable< Operando <Float>> parámetros, Iterable< Operando <Float>> auxiliar1, Iterable< Operando <Float>> auxiliar2, Iterable< Operando <Float>> auxiliar3, Iterable< Operando <Float> > auxiliar4, Iterable< Operando <Float>> auxiliar5, Iterable< Operando <Float>> auxiliar6, Iterable< Operando <Float>> auxiliar7, Configuración de cadena, Long numShards, Long shardId)
Método de fábrica para crear una clase que envuelve una nueva operación LoadAllTPUEmbeddingParameters.
Parámetros
alcance | alcance actual |
---|---|
parámetros | Una lista de tensores, uno para cada tabla de incrustación, que contiene los parámetros iniciales de la tabla de incrustación que se usarán en las búsquedas de incrustación. |
auxiliar1 | Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del primer parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen al menos un parámetro auxiliar. |
auxiliar2 | Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del segundo parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen al menos dos auxiliares. |
auxiliar3 | Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del tercer parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen tres parámetros auxiliares. |
auxiliar4 | Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del segundo parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen al menos cuatro auxiliares. |
auxiliar5 | Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del tercer parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen cinco parámetros auxiliares. |
auxiliar6 | Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del segundo parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen al menos seis auxiliares. |
auxiliar7 | Una lista de tensores, uno para cada tabla de incorporación, que contiene los valores iniciales del tercer parámetro de optimización auxiliar que se utilizará en la incorporación de actualizaciones del bucle de entrenamiento. La forma de cada entrada se ignora (y por lo tanto puede estar vacía) para aquellas tablas cuyos algoritmos de optimización no tienen parámetros auxiliares sevan. |
configuración | Un protocolo TPUEmbeddingConfiguration que describe los parámetros de la tabla que se cargan y se serializan en una cadena. |
número de fragmentos | Número de fragmentos en los que se dividen las tablas de incrustación. |
ID de fragmento | Identificador del fragmento para esta operación. |
Devoluciones
- una nueva instancia de LoadAllTPUEmbeddingParameters