Обновите '*var' по схеме Ftrl-proximal.
grad_with_shrinkage = град + 2 * l2_shrinkage * var accum_new = аккум + град * град линейный += grad_with_shrinkage - (accum_new^(-lr_power) - accum^(-lr_power)) / lr * var квадратичная = 1,0 / (accum_new^(lr_power) * lr) + 2 * l2 var = (знак(линейный) * l1 - линейный)/квадратичный, если |линейный| > l1 еще 0,0 аккум = аккум_новый
Вложенные классы
сорт | ПрименитьFtrl.Параметры | Дополнительные атрибуты для ApplyFtrl |
Константы
Нить | OP_NAME | Название этой операции, известное основному движку TensorFlow. |
Публичные методы
Выход <Т> | какВывод () Возвращает символический дескриптор тензора. |
статический <T расширяет TType > ApplyFtrl <T> | |
статический ApplyFtrl.Options | MultipleLinearByLr (логическое значение MultipleLinearByLr) |
Выход <Т> | вне () То же, что «вар». |
статический ApplyFtrl.Options | useLocking (логическое значение useLocking) |
Унаследованные методы
Константы
общедоступная статическая финальная строка OP_NAME
Название этой операции, известное основному движку TensorFlow.
Публичные методы
публичный вывод <T> asOutput ()
Возвращает символический дескриптор тензора.
Входные данные для операций TensorFlow являются выходными данными другой операции TensorFlow. Этот метод используется для получения символического дескриптора, который представляет собой вычисление входных данных.
public static ApplyFtrl <T> create ( Область действия, Операнд <T> var, Операнд <T> accum, Операнд <T> линейный, Операнд <T> grad, Операнд <T> lr, Операнд <T> l1, Операнд <T > l2, Операнд <T> l2Сжатие, Операнд <T> lrPower, Опции... опции)
Фабричный метод для создания класса, обертывающего новую операцию ApplyFtrl.
Параметры
объем | текущий объем |
---|---|
вар | Должно быть из переменной(). |
накапливать | Должно быть из переменной(). |
линейный | Должно быть из переменной(). |
выпускник | Градиент. |
лр | Коэффициент масштабирования. Должно быть скаляр. |
л1 | Регуляризация L1. Должно быть скаляр. |
л2 | Регуляризация усадки L2. Должно быть скаляр. |
lrPower | Коэффициент масштабирования. Должно быть скаляр. |
параметры | содержит значения необязательных атрибутов |
Возврат
- новый экземпляр ApplyFtrl
общедоступный статический ApplyFtrl.Options MultipleLinearByLr (логическое значение MultipleLinearByLr)
public static ApplyFtrl.Options useLocking (логическое значение useLocking)
Параметры
использоватьLocking | Если `True`, обновление тензоров var и accum будет защищено блокировкой; в противном случае поведение не определено, но может вызывать меньше конфликтов. |
---|