نسخه توزیع شده از بهینه ساز تصادفی دو مختصات صعودی (SDCA) برای
مدل های خطی با تنظیم L1 + L2. از آنجایی که هدف بهینه سازی جهانی به شدت محدب است، بهینه ساز هدف دوگانه را در هر مرحله بهینه می کند. بهینه ساز هر به روز رسانی را یک نمونه در یک زمان اعمال می کند. نمونهها به صورت یکنواخت نمونهبرداری میشوند و بهینهساز بدون نرخ یادگیری است و از نرخ همگرایی خطی برخوردار است.
[صعود مختصات دوگانه تصادفی پروگزیمال](http://arxiv.org/pdf/1211.2717v1.pdf).
شای شالو-شوارتز، تانگ ژانگ. 2012
$$Loss Objective = \sum f_{i} (wx_{i}) + (l2 / 2) * |w|^2 + l1 * |w|$$
[افزودن در مقابل میانگین در بهینه سازی اولیه-دوگانه توزیع شده](http://arxiv.org/abs/1502.03508).
چنسین ما، ویرجینیا اسمیت، مارتین جاگی، مایکل آی. جردن، پیتر ریچتاریک، مارتین تاکاک. 2015
[صعود مختصات دوگانه تصادفی با احتمالات تطبیقی](https://arxiv.org/abs/1502.08053).
دومینیک سیبا، ژنگ کو، پیتر ریچتریک. 2015
کلاس های تو در تو
کلاس | SdcaOptimizer.Options | ویژگی های اختیاری برای SdcaOptimizer |
ثابت ها
رشته | OP_NAME | نام این عملیات، همانطور که توسط موتور هسته TensorFlow شناخته می شود |
روش های عمومی
استاتیک SdcaOptimizer.Options | تطبیقی (تطبیقی بولی) |
استاتیک SdcaOptimizer | ایجاد ( scope scope, Iterable< Operand < TInt64 >> sparseExampleIndices, Iterable< Operand < TInt64 >> sparseFeatureIndices, Iterable< Operand < TFloat32 >> sparseFeatureValues, Iterable< Operand < TFloat32 < e32s , loat32 > exampleLabels, Iterable< Operand < TInt64 >> sparseIndices, Iterable< Operand < TFloat32 >> sparseWeights, Iterable< Operand < TFloat32 >> denseWeights, Operand < TFloat32 > exampleStateData, String lostType, Floatsm تکرارها ، گزینه ها ... گزینه ها) روش کارخانه برای ایجاد کلاسی که یک عملیات SdcaOptimizer جدید را بسته بندی می کند. |
لیست< خروجی < TFloat32 >> | outDeltaDenseWeights () فهرستی از بردارها که در آن مقادیر وزن های دلتا مرتبط با یک گروه ویژگی متراکم هستند. |
لیست< خروجی < TFloat32 >> | وزنهای پراکنده () فهرستی از بردارها که در آن هر مقدار وزن دلتا مرتبط با گروه ویژگی پراکنده است. |
خروجی < TFloat32 > | outExampleStateData () فهرستی از بردارها حاوی داده های حالت نمونه به روز شده. |
روش های ارثی
ثابت ها
رشته نهایی ثابت عمومی OP_NAME
نام این عملیات، همانطور که توسط موتور هسته TensorFlow شناخته می شود
روش های عمومی
عمومی Static SdcaOptimizer.Options تطبیقی (تطبیقی بولی)
پارامترها
تطبیقی | آیا از Adaptive SDCA برای حلقه داخلی استفاده شود یا خیر. |
---|
ایجاد SdcaOptimizer static ( دامنه ، تکرارپذیر< Operand < TInt64 >> sparseExampleIndices، Iterable< Operand < TInt64 >> sparseFeatureIndices، Iterable< Operand < TFloat32 >> sparseFeatureValues, TInt64 به عنوان مثال وزن، Operand < TFloat32 > exampleLabels, Iterable< Operand < TInt64 >> sparseIndices, Iterable< Operand < TFloat32 >> sparseWeights, Iterable< Operand < TFloat32 >> denseWeights, Operand < TFloat32 > exampleStateDataLoatsl,StateTFloat, St هنرها , Long numInnerIterations, Options... گزینه ها)
روش کارخانه برای ایجاد کلاسی که یک عملیات SdcaOptimizer جدید را بسته بندی می کند.
پارامترها
دامنه | محدوده فعلی |
---|---|
SparseExample Indices | لیستی از بردارهایی که شامل شاخص های مثالی هستند. |
شاخص های ویژگی پراکنده | لیستی از بردارهایی که شامل شاخص های ویژگی هستند. |
sparseFeatureValues | فهرستی از بردارها که حاوی مقدار ویژگی مرتبط با هر گروه ویژگی است. |
ویژگی های متراکم | لیستی از ماتریس ها که حاوی مقادیر ویژگی متراکم است. |
به عنوان مثال وزن | بردار که حاوی وزن مربوط به هر مثال است. |
نمونه برچسب ها | بردار که حاوی برچسب/هدف مرتبط با هر مثال است. |
شاخص های پراکنده | لیستی از بردارها که در آن هر مقدار شاخص هایی است که وزن های متناظر در وزن های پراکنده دارند. این زمینه ممکن است برای رویکرد متراکم حذف شود. |
وزن کم | فهرستی از بردارها که در آن هر مقدار وزن مربوط به یک گروه ویژگی پراکنده است. |
وزن های متراکم | لیستی از بردارها که در آن مقادیر وزن های مرتبط با یک گروه ویژگی متراکم هستند. |
exampleStateData | لیستی از بردارها حاوی داده های حالت مثال. |
از دست دادن نوع | نوع ضرر اولیه در حال حاضر SdcaSolver از تلفات لجستیک، مربع و لولا پشتیبانی می کند. |
l1 | قدرت تنظیم متقارن l1. |
l2 | قدرت تنظیم متقارن l2. |
numLossPartitions | تعداد پارتیشن های تابع ضرر جهانی. |
numInnerIterations | تعداد تکرار در هر بسته کوچک. |
گزینه ها | مقادیر ویژگی های اختیاری را حمل می کند |
برمی گرداند
- یک نمونه جدید از SdcaOptimizer
لیست عمومی< خروجی < TFloat32 >> outDeltaDenseWeights ()
فهرستی از بردارها که در آن مقادیر وزن های دلتا مرتبط با یک گروه ویژگی متراکم هستند.
فهرست عمومی< خروجی < TFloat32 >> outDeltaSparseWeights ()
فهرستی از بردارها که در آن هر مقدار وزن دلتا مرتبط با گروه ویژگی پراکنده است.