یادداشت های نشست 2022/7/28 همکاران TFF

  • افراد جدید
  • بیایید همه در سرور Discord باشیم تا مکالمات را به صورت تعاملی تسهیل کنیم
    • کرزیس را پینگ کنید تا یک Contributor شود تا بتوانید پست بگذارید
  • SIG فدراسیون
  • بحث در مورد مسمومیت رایگان و داده در x-silo، بحثی که توسط لینکدین رهبری می‌شود (متن از موارد استفاده شناسایی شده توسط لینکدین، مگر اینکه طور دیگری مشخص شده باشد):
    • سواری رایگان - مستاجران خاصی به گروه کمک نمی کنند، بنابراین سود رقیق کننده است
      • می تواند عمدی یا غیرعمدی باشد
      • در این مرحله روی موارد غیرعمدی تمرکز کنید - این موردی است که ما در لینکدین در درجه اول به آن علاقه مندیم
      • ممکن است یک شرکت‌کننده ساده باشد که داده‌های کافی ندارد، یا داده‌هایی که در آموزش مفید نیستند
        • در حال حاضر به مدل سازی این به عنوان یک مشکل تشخیص ناهنجاری فکر می کنیم
        • مقایسه با مشارکت اکثریت در صورتی کار می کند که برای اقلیت داده ها مناسب باشد
        • رویکرد دیگر: چندین مدل فدرال، ساخته شده با یا بدون مشارکت از یک شرکت کننده مشخص. مشاهده کنید که کدام یک پیشرفت می کنند و شرکت کنندگان را بر اساس آن حذف کنید
      • برخی از فری‌رایدرها ممکن است داده‌های زباله را ارائه دهند
        • مدل سازی به عنوان تشخیص ناهنجاری دشوارتر است
        • همان رویکرد بالا
    • مسمومیت
      • به همین ترتیب، می تواند عمدی باشد یا نه
      • روی موارد غیرعمد تمرکز کنید - مستاجران بزرگتر می توانند گروه را تحت الشعاع قرار دهند و مدل را نسبت به مشارکت خود سوگیری کنند.
      • برای سناریوهای مورد علاقه، این شباهت هایی به مشکل فریدر دارد
      • تکنیک های مرتبط در آموزش توزیع شده بیزانس
        • به عنوان مثال، به جای میانگین، می تواند یک میانگین برای افزایش مقاومت در برابر مسمومیت اتخاذ کند
    • آیا ما شاهد بروز این مشکلات در جای دیگری هستیم، آیا ارزش دارد که چنین منطقی را به اکوسیستم کمک کنیم؟
      • آره! مشکلات رایجی که در تنظیمات متخاصم مشاهده می شود، جایی که منافع سیلوها ممکن است در یک راستا قرار نگیرند (مشارکت هزینه محاسباتی دارد و به منابع نیاز دارد)
    • چگونه می توانیم تأثیر بارگیری آزاد یا مسمومیت را اندازه گیری کنیم؟
      • به ازای هر سهم در مقابل در مجموع - ایده های بالا به مورد دوم اشاره می کنند
    • مشاهده: یکی از ویژگی های TFF تجمیع های قابل پارامتر و حالت دار است که می توانند حالت داخلی خود را حفظ کرده و با تجمیع آن حالت را به روز کنند.
    • در مورد معاوضه ها و هم افزایی با اهداف دیگر (مثلاً DP)
      • DP قطعا می تواند به مسمومیت کمک کند
      • سوال در مورد DP در زمینه بارگذاری مجدد - هنوز یک سوال باز است
    • ما متوجه شدیم که حملات مسمومیت داده ها می تواند تأثیر ناچیزی داشته باشد
      • به عنوان مثال، https://arxiv.org/pdf/2108.10241.pdf را ببینید
      • مهم است که چنین ویژگی را به عنوان بخشی از یک پلت فرم FL متقابل سیلو بدون توجه به میزان ضربه
  • ایده هایی با جزئیات بیشتر در مورد موارد فوق و پیشنهادات برای اجزای افزودن به اکوسیستم TFF از لینکدین آینده بنویسید.
  • بحث بیشتر در Discord را ببینید
  • جلسه بعدی 2 هفته دیگر