SdcaOptimizer

Распределенная версия оптимизатора стохастического двойного координатного восхождения (SDCA) для

линейные модели с регуляризацией L1+L2. Поскольку глобальная цель оптимизации является сильно выпуклой, оптимизатор оптимизирует двойную цель на каждом этапе. Оптимизатор применяет каждое обновление по одному примеру. Примеры выбираются равномерно, а оптимизатор не требует скорости обучения и имеет линейную скорость сходимости.

[Проксимальное стохастическое восхождение по двойной координате] (http://arxiv.org/pdf/1211.2717v1.pdf).
Шай Шалев-Шварц, Тонг Чжан. 2012 год

$$Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|$$

[Сложение и усреднение в распределенной первично-двойной оптимизации] (http://arxiv.org/abs/1502.03508).
Ченсинь Ма, Вирджиния Смит, Мартин Джагги, Майкл И. Джордан, Питер Рихтарик, Мартин Такач. 2015 год

[Стохастический подъем по двум координатам с адаптивными вероятностями] (https://arxiv.org/abs/1502.08053).
Доминик Чиба, Чжэн Цюй, Петер Рихтарик. 2015 год