یادداشت های نشست 8/11/2022 همکاران TFF

  • موضوع دستور کار پیشنهادی: جرمی لوی ایده های مبتنی بر TFF خود را برای اجزای جدیدی که می توانند ساخته شوند ارائه خواهد کرد.
  • [JL] تمرکز بر سناریوهای ساده تجزیه و تحلیل فدرال، اتصال TFF با برگه‌های Google برای انجام میانگین‌گیری ساده. کار در Kubernetes، خواندن از ورق.
  • [JL] یک چالش این است که در حال حاضر کارگران باید نقاط ورودی داشته باشند.
    • اغلب اینطور نیست، بنابراین به یک لایه انتقال نیاز دارید که امکان برقراری ارتباط در جهت مخالف را فراهم کند، کارگران با سرور تماس می گیرند.
    • چنین جزء در حال حاضر در اکوسیستم نیست.
  • [پیش از میلاد] نیز نیاز به این را دید. در حال حاضر از TFF به صورت محدود استفاده می‌شود، فضای ابری داخلی که در آن مشتریان داده‌ها را آپلود می‌کنند. اما برای انتقال به تنظیمات چند مرکز داده به چیزی شبیه JL که در بالا توضیح داده شد نیاز است.
  • [JL] در نظر گرفتن لایه‌ای که کارگران را قادر می‌سازد تا آیتم‌های کاری را از صف روی یک سرور بیرون بکشند - اگر جایگزین زمان اجرا موجود شود.
  • [KO] مجبور نیستید به این موضوع در قالب «جایگزین کردن» فکر کنید - می‌توانید نوشتن محاسبات و 98 درصد زمان اجرا را یکسان نگه دارید، و به جای آن فقط مؤلفه جدیدی را جایگزین کنید که به روش پیشنهادی شما کار می‌کند. خاموش کردن مجری راه دور به عنوان مکانیزمی برای انتقال درخواست های مجری از بالا به پایین.
  • [پیش از میلاد] آیا به آن نیاز دارید که ناهمگام باشد یا در پارادایم همگام سازی موجود کار کند.
  • [پیش از میلاد] همچنین، برخی از پلتفرم‌های خروجی از رویکرد «صف وظایف» استفاده می‌کنند، بنابراین این یک ایده ثابت به نظر می‌رسد.
  • [پیش از میلاد] معرفی تایم اوت‌ها نیز ممکن است به پر کردن شکاف (برای مقابله با کارگران کند یا ناتوان) کمک کند.
  • [KO] با توجه به همگام سازی در مقابل همگام، ما انتزاعات جمعی در TFF داریم که به مفهوم "همگروهی" نیاز دارند. به این ترتیب، باید زمانی فرا برسد که برخی از مشتریان خارج از کشور با هم تصمیم بگیرند که به یک «همگروهی» بپیوندند، و سرور باید نقشی را در سازماندهی این اتفاق بازی کند. تا زمانی که این کار انجام شود، نحوه ارسال درخواست‌های مجری فردی به مشتریان می‌تواند متفاوت باشد. اجرا کننده راه دور که از بالا به پایین فراخوانی می کند یکی از راه های انجام آن است، اما نه تنها راه. یک الگوی ارتباطی مبتنی بر آیتم های کاری مانند آنچه در بالا پیشنهاد شد نیز قطعاً می تواند در این ساختار قرار گیرد. به نظر می رسد موادی برای یک پروپوزال کوچک یک یا دو پیجر برای کسی پیش نویس شود؟
  • [JL] داوطلب شدن برای نوشتن یک پیشنهاد برای یک جزء جدید برای همه ما برای تکرار.
  • [JL] BTW، آیا مخازن مجاور دیگری با عملکرد مرتبط وجود دارد؟
  • [KO] FYI، https://github.com/google/federated-compute نیز از Google است، اما بیشتر بر روی سناریوی تلفن همراه تمرکز می‌کند، در این مرحله به TFF متصل نیست و شامل عملکرد شما نمی‌شود. در اینجا توضیح می دهیم، بنابراین قطعاً منطقی است که سعی کنید یک پیشنهاد کوچک در این گروه تدوین کنید.
  • [BD] برخی از سوالاتی که باید به آنها رسیدگی شود: نتایج ذخیره سازی، زمان جمع آوری.
  • [Hao] شاید در این سناریو اگر ناهمگام نیست نیازی به ذخیره سازی نباشد
  • [KO] برای سناریوهایی که با الگوی MapReduce ساده مطابقت دارند، ما در TFF پشتیبانی داریم، به https://www.tensorflow.org/federated/api _docs/python/tff/backends/mapreduce مراجعه کنید. این کتابخانه شما را قادر می سازد تا محاسبات TFF را به فرمی شبیه MapReduce ترجمه کنید که می توانید آن را بر روی یک پلت فرم ساده تر اجرا کنید. با این حال، میزانی از دست دادن در بیان وجود دارد، و برخی از ایده‌هایی که قبلاً مورد بحث قرار گرفت و نیاز به چندین دور ارتباط رفت‌وآمد بین sevrr و مشتریان داشت، در این چارچوب قابل بیان نیستند. و، تنظیم متقابل سیلو به طور منحصربه‌فردی این نوع ایده‌ها را ممکن می‌سازد، زیرا ما با گروه‌هایی از مشتریان مجهز (سیلو) سروکار داریم که می‌توانند ارتباطات طولانی‌مدت را حفظ کنند.
  • [Hao] چه در مورد عملیات جمعی، allreduce - آیا آنهایی که پشتیبانی می شوند یا سازگار هستند
  • [KO] در حال حاضر نه. Allreduce تا حدودی استفاده محدودی خواهد داشت، زیرا در حالی که می‌توان آن را در یک سناریوی میانگین فید استفاده کرد، فرض می‌کند که هیچ کاری روی سرور در بین دورهای پردازش انجام نمی‌شود. در موارد کلی تر کار نمی کند. اما داشتن دو نیمه آن - حالت کارآمد پخش و حالت کارآمد جمع آوری، شاید حتی با شتاب سخت افزاری، چیزی است که می توانیم در TFF از آن بهره ببریم.
  • [KO] به نظر می رسد که JL آماده است تا پیش نویس یک پیشنهاد برای یک جزء جدید را ارائه کند، و دیگران نظراتی در مورد آنچه باید در آن باشد دارند - بیایید با هم همکاری کنیم (+1 از همه در اتاق). برای تشکیل مجدد در 2 هفته، احتمالا با پیش نویس برای بحث.