النسخة الموزعة من مُحسِّن الصعود الإحداثي المزدوج العشوائي (SDCA) لـ
النماذج الخطية مع ضبط L1 + L2. نظرًا لأن هدف التحسين العام محدب بشدة، يقوم المحسن بتحسين الهدف المزدوج في كل خطوة. يقوم المحسن بتطبيق كل تحديث على مثال واحد في كل مرة. يتم أخذ عينات من الأمثلة بشكل موحد، ويكون المُحسِّن خاليًا من معدل التعلم ويتمتع بمعدل التقارب الخطي.
[صعود الإحداثيات العشوائية المزدوجة القريبة](http://arxiv.org/pdf/1211.2717v1.pdf).
شاي شاليف شوارتز، تونغ تشانغ. 2012
$$Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|$$
[الإضافة مقابل المتوسط في التحسين الموزع الأولي المزدوج] (http://arxiv.org/abs/1502.03508).
تشينكسين ما، فيرجينيا سميث، مارتن جاجي، مايكل آي جوردان، بيتر ريتشتاريك، مارتن تاكاك. 2015
[صعود الإحداثيات العشوائية المزدوجة مع الاحتمالات التكيفية](https://arxiv.org/abs/1502.08053).
دومينيك سيبا، تشنغ تشو، بيتر ريتشتاريك. 2015
فئات متداخلة
فصل | SdcaOptimizer.Options | سمات اختيارية ل SdcaOptimizer |
الثوابت
خيط | OP_NAME | اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي |
الأساليب العامة
ثابت SdcaOptimizer.Options | التكيف (التكيف المنطقي) |
ثابت SdcaOptimizer | إنشاء (نطاق النطاق ، Iterable< Operand < TInt64 >> متفرق، المؤشرات المتفرقة، Iterable< المعامل < TInt64 >> مؤشرات متفرقة، Iterable < المعامل < TFloat32 >> sparseFeatureValues، Iterable < المعامل < TFloat32 >> ميزات كثيفة، المعامل < TFloat32 > exampleWeights، المعامل < TFloat32 > exampleLabels، Iterable< المعامل < TInt64 >> المؤشرات المتفرقة، Iterable < المعامل < TFloat32 >> الأوزان المتفرقة، Iterable < المعامل < TFloat32 >> الأوزان الكثيفة، المعامل < TFloat32 > exampleStateData، String LossType، Float l1، Float l2، Long numLossPartitions، Long numInnerIterations ، خيارات... خيارات) طريقة المصنع لإنشاء فئة تغلف عملية SdcaOptimizer جديدة. |
القائمة< الإخراج < TFloat32 >> | خارجDeltaDenseWeights () قائمة المتجهات حيث تكون القيم هي أوزان الدلتا المرتبطة بمجموعة معالم كثيفة. |
القائمة< الإخراج < TFloat32 >> | خارجدلتاSparseWeights () قائمة المتجهات حيث تكون كل قيمة هي أوزان الدلتا المرتبطة بمجموعة ميزات متفرقة. |
الإخراج <TFloat32> | أووتيكسمبليستاتاتا () قائمة المتجهات التي تحتوي على بيانات حالة المثال المحدثة. |
الطرق الموروثة
الثوابت
السلسلة النهائية الثابتة العامة OP_NAME
اسم هذه العملية كما هو معروف بواسطة محرك TensorFlow الأساسي
الأساليب العامة
SdcaOptimizer.Options الثابت العام التكيفي (التكيف المنطقي)
حدود
التكيف | ما إذا كان سيتم استخدام Adaptive SDCA للحلقة الداخلية. |
---|
إنشاء SdcaOptimizer ثابت عام (نطاق النطاق ، Iterable< Operand < TInt64 >> sparseExampleIndices، Iterable < Operand < TInt64 >> sparseFeatureIndices، Iterable < Operand < TFloat32 >> sparseFeatureValues، Iterable < Operand < TFloat32 >> DendenFeatures، Operand < TFloat32 > exampleWeights، المعامل < TFloat32 > exampleLabels، Iterable < المعامل < TInt64 >> المؤشرات المتفرقة، Iterable < المعامل < TFloat32 >> الأوزان المتفرقة، Iterable < المعامل < TFloat32 >> الأوزان الكثيفة، المعامل < TFloat32 > exampleStateData، String LossType، Float l1، Float l2، Long numLossPartitions ، numInnerIterations طويلة، خيارات... خيارات)
طريقة المصنع لإنشاء فئة تغلف عملية SdcaOptimizer جديدة.
حدود
نِطَاق | النطاق الحالي |
---|---|
SparseExampleIndices | قائمة المتجهات التي تحتوي على أمثلة للمؤشرات. |
SparseFeatureIndices | قائمة المتجهات التي تحتوي على مؤشرات الميزات. |
متفرق_FeatureValues | قائمة المتجهات التي تحتوي على قيمة الميزة المرتبطة بكل مجموعة ميزات. |
ميزات كثيفة | قائمة المصفوفات التي تحتوي على قيم الميزة الكثيفة. |
exampleWeights | متجه يحتوي على الوزن المرتبط بكل مثال. |
exampleLabels | متجه يحتوي على التسمية/الهدف المرتبط بكل مثال. |
متفرق | قائمة المتجهات حيث كل قيمة هي المؤشرات التي لها أوزان مقابلة بالأوزان المتفرقة. ربما تم حذف هذا الحقل للنهج الكثيف. |
أوزان متفرقة | قائمة المتجهات حيث تمثل كل قيمة الوزن المرتبط بمجموعة ميزات متفرقة. |
الأوزان الكثيفة | قائمة المتجهات حيث تكون القيم هي الأوزان المرتبطة بمجموعة معالم كثيفة. |
exampleStateData | قائمة المتجهات التي تحتوي على بيانات الحالة النموذجية. |
LossType | نوع الخسارة البدائية. يدعم SdcaSolver حاليًا الخسائر اللوجستية والمربعة والمفصلية. |
l1 | قوة التنظيم L1 المتناظرة. |
l2 | قوة تنظيم L2 المتناظرة. |
numLossPartitions | عدد أقسام دالة الخسارة العالمية. |
numInnerIterations | عدد التكرارات لكل دفعة صغيرة. |
خيارات | يحمل قيم السمات الاختيارية |
المرتجعات
- مثيل جديد من SdcaOptimizer
القائمة العامة < الإخراج < TFloat32 >> outDeltaDenseWeights ()
قائمة المتجهات حيث تكون القيم هي أوزان الدلتا المرتبطة بمجموعة معالم كثيفة.
القائمة العامة < الإخراج < TFloat32 >> outDeltaSparseWeights ()
قائمة المتجهات حيث تكون كل قيمة هي أوزان الدلتا المرتبطة بمجموعة ميزات متفرقة.
الإخراج العام <TFloat32> outExampleStateData ()
قائمة المتجهات التي تحتوي على بيانات حالة المثال المحدثة.