тензорный поток:: опс:: ResourceSparseApplyProximalAdagrad
#include <training_ops.h>
Разреженные записи обновления в '*var' и '*accum' в соответствии с алгоритмом FOBOS.
Краткое содержание
То есть для строк, для которых у нас есть grad, мы обновляем var и accum следующим образом: accum += grad * grad prox_v = var prox_v -= lr * grad * (1 / sqrt(accum)) var =sign(prox_v)/(1 +lr*l2) * max{|prox_v|-lr*l1,0}
Аргументы:
- область: объект области.
- var: Должно быть из переменной().
- accum: Должно быть из переменной().
- lr: Скорость обучения. Должно быть скаляр.
- l1: регуляризация L1. Должно быть скаляр.
- l2: регуляризация L2. Должно быть скаляр.
- град: Градиент.
- индексы: вектор индексов в первом измерении var и accum.
Необязательные атрибуты (см. Attrs
):
- use_locking: Если True, обновление тензоров var и accum будет защищено блокировкой; в противном случае поведение не определено, но может вызывать меньше конфликтов.
Возврат:
- созданная
Operation
Конструкторы и деструкторы | |
---|---|
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices) | |
ResourceSparseApplyProximalAdagrad (const :: tensorflow::Scope & scope, :: tensorflow::Input var, :: tensorflow::Input accum, :: tensorflow::Input lr, :: tensorflow::Input l1, :: tensorflow::Input l2, :: tensorflow::Input grad, :: tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs) |
Публичные атрибуты | |
---|---|
operation |
Общественные функции | |
---|---|
operator::tensorflow::Operation () const |
Публичные статические функции | |
---|---|
UseLocking (bool x) |
Структуры | |
---|---|
tensorflow::ops::ResourceSparseApplyProximalAdagrad::Attrs | Необязательные установщики атрибутов для ResourceSparseApplyProximalAdagrad . |
Публичные атрибуты
операция
Operation operation
Общественные функции
ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices )
ResourceSparseApplyProximalAdagrad
ResourceSparseApplyProximalAdagrad( const ::tensorflow::Scope & scope, ::tensorflow::Input var, ::tensorflow::Input accum, ::tensorflow::Input lr, ::tensorflow::Input l1, ::tensorflow::Input l2, ::tensorflow::Input grad, ::tensorflow::Input indices, const ResourceSparseApplyProximalAdagrad::Attrs & attrs )
оператор::tensorflow::Операция
operator::tensorflow::Operation() const
Публичные статические функции
Использование блокировки
Attrs UseLocking( bool x )