13645

مشاركت ناقص دستگاه ها در يادگيري فدرال

1402

شاهرخ فرهمند

يادگيري فدرال كه سعي در آموزش مدل مركزي روي سرور با استفاده از داده هاي دستگاه هايي مثل تلفن همراه و دستگاه هاي اينترنت اشياء دارد، با چالش هاي فراواني مواجه است. از جمله اين چالش ها ميتوان به حجم انبوه دستگاه ها اشاره كرد كه با وجود محدوديت هاي پهناي باند امكان مشاركت تمامي اين دستگاه ها در هر مرحله از فرايند يادگيري وجود ندارد. يكي از روش هاي مرسوم براي رفع اين محدوديت نمونه برداري از مشتريان و استفاده از زير مجموعه اي از تمام دستگاه‌ها براي هر مرحله يادگيري است. از آنجا كه توزيع داده مشتريان با يكديگر متفاوت بوده، اين نمونه برداري بايستي به گونه اي باشد كه علاوه بر همگرايي مدل در مدت زمان محدود، عدالت بين مشتريان نيز رعايت شده و داده آنها به طور قابل قبولي در فرايند يادگيري دخيل شود. چالش ديگر آن است كه اين دستگاه ها به دليل محدوديت هاي سخت افزاريشان از جمله محدوديت باتري، پهناي باند و توان محاسباتي قابليت اطمينان پاييني داشته و در هر تكرار انتظار ميرود تعدادي از آنها از فرايند يادگيري خارج شوند. اين دو مساله در كنار هم باعث مي شود كه بر خلاف مدل هاي سنتي يادگيري ماشين، چه به صورت مركزي و چه توزيع شده در مراكز داده، فرض شركت تمام دستگاه ها و داده ها برقرار نباشد و عملا اين مهم غير ممكن شود. در اين حالت نياز به بررسي اثرات اين عدم شركت بر روي مدل آموزش يافته و فرايند يادگيري است تا قادر به طراحي روش هاي نمونه برداري بهتر و راه هاي بهتر براي مقابله با پديده هاي تاخير و خروج باشيم.

5/29/2024 12:00:00 AM

83299

1403/05/27

Partial Participation of Devices in Federated Learning

مشاركت ناقص , يادگيري فدرال , انتخاب كاربران , عدم دسترسي به كاربران

partial participation , federated learning , client selection , client unavailability