شماره ركورد
33922
پديد آورنده
اميرحسين مسيبي
عنوان
سازوكاري براي مديريت منابع محاسباتي كند در يادگيري مشاركتي مبتني بر لبه
مقطع تحصيلي
كارشناسي ارشد
رشته تحصيلي
مهندسي كامپيوتر-نرمافزار
سال تحصيل
1402
تاريخ دفاع
1404/07/26
استاد راهنما
دكتر محسن شريفي
استاد مشاور
-
دانشكده
مهندسي كامپيوتر
چكيده
يادگيري فدرال بهعنوان يك روش نوآورانه در حوزه يادگيري ماشين توزيعشده، با هدف آموزش مدلهاي سراسري بدون انتقال و تجميع دادهها در يك محل جهت پردازش، روزبهروز اهميت بيشتري پيدا كرده است، بهويژه در محيطهاي محاسباتي لبه كه با منابع متنوع و محدوديتهاي ارتباطاتي مواجهاند. اين موضوع، مديريت بهينه منابع محاسباتي كند و اطمينان از انصاف در توزيع تخصيص منابع و تجميع مدلها را به ضرورتي اجتنابناپذير تبديل كردهاست، زيرا عدم تعادل در مشاركت اين منابع ميتواند دقت مدل آموزش ديدهشده را كاهش دهد. با اين حال، در حالي كه روشهاي همگام و ناهمگام در يادگيري فدرال بهطور گسترده بررسي شدهاند، پژوهشها در زمينه يادگيري فدرال نيمهناهمگام كه ميتواند تعادلي ميان انعطافپذيري و كارايي فراهم كند محدود بوده و نياز به نوآوريهايي براي غلبه بر چالشهاي ناشي از محدوديتهاي شبكهاي و تنوع سختافزاري دارد. در اين پاياننامه، يك سازوكار در قالب معماري ابر-مه-لبه پيشنهاد شده است كه با بهرهگيري از الگوريتم K-Means براي دستهبندي منابع محاسباتي به سه گروه عادي، خودكفا و كند، و نيز الگوريتم Q-Learning براي تخصيص هوشمند كارخواهان لبه به كارپذيران كند، به كاهش اثرات منفي اين كارپذيران و بهينهسازي استفاده از آنها منجر شده است. همچنين، با استفاده از تجميع وزندار، ضريبهاي كمتري براي وزن منابع كند و خودكفا در نظر گرفته شده تا انصاف در مشاركت آنها حفظ شود و در الگوريتم Q-Learning، تقسيم بار به شكلي طراحي شدهاست كه تعادل و انصاف در تخصيص كارخواهان لبه رعايت گردد. نتايج ارزيابي اين سازوكار بر روي يك بستر آزمون با مجموعهدادهي MNIST نشان داد كه دقت مدل سراسري در حالت نيمهناهمگام به 82% در 50 دور ارتباطاتي رسيد كه نسبت به رويكرد يادگيري فدرال تقسيمي، 7% بهبود داشته است. همچنين، زمان آموزش مدل شبكهي عصبي پيچشي تا 50% كاسته شد، مصرف انرژي در مقايسه با رويكرد يادگيري فدرال تقسيمي كاهش پيدا كرد و ميزان استفاده از پردازشگر مركزي در كارخواهان لبه تا 15% كاهش يافت. اين نتايج، در مقايسه با كارهاي مرتبط كه اغلب به روشهاي همگام يا ناهمگام محدود بودهاند، برتري روش پيشنهادي را در مديريت ناهمگوني منابع و ارتقاء انصاف در محيطهاي لبهاي تأييد ميكند و پتانسيل آن را براي كاربردهاي عملي در دنياي واقعي نشان ميدهد.
تاريخ ورود اطلاعات
1404/08/13
عنوان به انگليسي
A Mechanism for Managing Straggler Edge Computing Resources in Federated Learning
تاريخ بهره برداري
10/18/2026 12:00:00 AM
دانشجوي وارد كننده اطلاعات
اميرحسين مسيبي
چكيده به لاتين
Federated learning has gained increasing significance as an innovative approach in distributed machine learning, aiming to train global models without transferring or centralizing data in a single location, particularly in edge environments characterized by diverse computational resources and communication constraints. This makes the efficient management of straggler resources and ensuring fairness in resource allocation and model aggregation essential, as imbalances in resource participation can degrade model accuracy. While synchronous and asynchronous federated learning methods have been extensively studied, research on semi-asynchronous federated learning, which strikes a balance between flexibility and efficiency, remains limited and requires innovations to overcome challenges posed by network constraints and hardware heterogeneity. This thesis proposes a mechanism based on a cloud-fog-edge architecture that leverages the K-Means algorithm to classify computational resources into three categories normal, self-sufficient stragglers, and highly loaded stragglers and employs Q-Learning to intelligently assign edge servers to straggler clients, thereby mitigating their adverse effects and optimizing their utilization. Additionally, weighted aggregation is applied, assigning lower coefficients to the weights of straggler and self-sufficient resources to maintain fairness in their participation, while the Q-Learning algorithm is designed to ensure balanced and equitable load distribution among edge servers. evaluation results on a testbed using the MNIST dataset demonstrated that the global model accuracy in the semi-asynchronous setting reached 82% over 50 communication rounds, representing a 7% improvement over the split federated learning approach. Furthermore, neural network training time was reduced by up to 50%, energy consumption was optimally managed, and CPU usage on edge servers decreased by 15%. These achievements, compared to related works that are often limited to synchronous or asynchronous methods, confirm the superiority of our proposed approach in managing resource heterogeneity and enhancing fairness in edge environments, highlighting its potential for real-world applications. By presenting a novel solution, this research takes an important step toward developing more efficient federated learning systems and provides a foundation for future investigations.
كليدواژه هاي فارسي
محاسبات لبه , يادگيري فدرال نيمهناهمگام , منابع محاسباتي كند , انصاف
كليدواژه هاي لاتين
Edge Computing , Semi-Asynchronous Federated Learning , Stragglers , Fairness
Author
Amirhossein Mosayebi
SuperVisor
Mohsen Sharifi