28351

كمينه‌ سازي زمان اجراي يادگيري متحد با بهينه ‌سازي توام پارامترهاي مخابراتي و پردازشي براي دستگاه‌هاي بي‌سيم مبتني بر SWIPT

كارشناسي ارشد

مخابرات-سيستم

1397

1401/12/22

دكتر بهمن ابوالحسني

دكتر شاهرخ فرهمند

مهندسي برق

تا قبل از طرح موضوع يادگيري متحد ، بسياري از الگوريتم‌هاي يادگيري ماشين، آموزش مدل را به‌ صورت متمركز انجام مي‌دادند. بدين معنا كه تمام داده‌هاي محلي مورد نياز براي يادگيري، از دستگاه‌ها يا گره‌هاي شبكه جمع مي‌شده و به يك مركز پردازش قوي واقع در هسته شبكه ارسال مي‌شدند تا يادگيري به صورت متمركز در آن انجام گيرد. اين روش داراي چندين ايراد اساسي شامل هزينه بالاي زمان و توان مخابره، حريم شخصي، امنيت داده‌ها و محدوديت در مقياس پذيري مي‌باشد. جهت رفع اين ايرادات، رويكردي نوين به نام يادگيري متحد در عملكرد سيستم‌هاي مخابراتي بي‌سيم و موبايل ارائه گرديد. در روش يادگيري متحد، دستگاه‌هاي شبكه مطابق مدلي كه سرور مركزي اعلام مي‌كند پردازش‌هايي روي مجموعه داده‌هاي محلي خود انجام مي‌دهند، سپس نتيجه يادگيري را به سرور مركزي ارسال مي‌كنند، و سرور مركزي به روز رساني سراسري را پس از تجميع نتايج يادگيري محلي به انجام مي‌رساند. يكي از مباحثي كه طي چند سال اخير مطرح شده است تعيين پارامترهاي پردازشي و مخابراتي يادگيري متحد در لبه شبكه مخابرات بي‌سيم است به نحوي كه معياري از عملكرد يادگيري متحد بهينه شود. در اين تحقيق، يك ايستگاه پايه چند آنتنه متصل به يك واحد پردازش‌گر كه نقش سرور مركزي را بازي مي‌كند و تعدادي دستگاه‌هاي گيرنده اينترنت اشياء در نظر گرفته شده است كه سعي مي‌كنند الگوريتم يادگيري متحد را اجرا كنند. با توجه به اينكه اين عناصر اينترنت اشياء دستگاه‌هاي كوچك بدون باتري هستند، به ناچار براي شارژ اين گره‌ها يا انتقال انرژي به آنها از تكنيك SWIPT استفاده مي‌كنيم. سرور مركزي پارامترهاي مدل سراسري خود را در ارتباط فروسو به گره‌هاي اينترنت اشياء ارسال مي كند تا آنها داده‌هاي محلي خود را با توجه به مدل دريافت شده از ايستگاه پايه پردازش كنند، سپس نتايج پردازش در ارتباط فراسو به سرور مركزي ارسال مي گردد. ما سعي مي‌كنيم پارامترهاي مخابراتي و پردازشي را به گونه‌اي تواما بهينه كنيم تا ميانگين زمان اجراي يادگيري متحد كمينه گردد و كيفيت مناسب يادگيري هم تضمين شود. مساله‌ بدست آمده در فصل سوم براي بهينه سازي توام پارامترهاي سيستم مورد نظر غير محدب بوده و شامل جملاتي با اميد رياضي مي‌باشد كه تابع چگالي احتمال متغيرهاي تصادفي داخل اميد رياضي نا معلوم است. بنابرين براي حل اين مساله از روش تقريب محدب اضافي برخط دو مرحله‌اي استفاده شده كه در مرحله اول و دوم، به ترتيب پارامترهاي كوتاه مدت و بلند مدت بهينه مي‌گردند. پارامترهاي كوتاه مدت شامل فركانس پردازش، نرخ هاي ارسال ارتباط فروسو و فراسو، بردارهاي شكل دهي پرتو و ضرايب تقسيم توان مي باشند، و پارامتر سطح دقت محلي الگوريتم يادگيري متحد هم به عنوان پارامتر بلند مدت در نظر گرفته شده است. پس از انجام بهينه سازي، عملكرد سيستم با سيستمي بدون انتقال انرژي با SWIPT در شبيه سازي‌ها مقايسه مي‌گردد، مشاهده مي‌شود كه افت عملكرد براي سيستم پيشنهادي با SWIPT حداقلي است. در حالي كه اين سيستم ديگر نيازي به باتري يا شارژ مجدد گره‌هاي اينترنت اشياء ندارد.

1402/03/08

Minimization of Federated Learning Run-Time by Joint Optimization of Communications and Processing Parameters for SWIPT-based Wireless Devices

3/12/2024 12:00:00 AM

Before federated learning (FL), many machine learning algorithms were used to train the model centrally. In other words, all the local data which collected from devices or network nodes and transmitted to a processing center located in the center of the network to implement centralized learning. The mentioned method has several fundamental drawbacks, including limited frequency band and communication power, privacy, data security, and scalability challenges. A novel approach, the FL was suggested to eliminate the aforementioned defects in wireless and mobile telecommunication systems. According to the FL approach, edge devices process their local datasets with regard to the global model announced by a central server (CS) and transmit the results of local learning to it. After aggregating the local updates by the CS, it performs a global update. One of the topics which have been considered in recent years is determining the processing and telecommunication parameters of FL at the edge of the wireless communication networks in order to optimize FL performance. In this research, a multi-antenna base station connected to a unit of a processor, which plays the role of the CS, and a number of Internet of Thing (IoT) devices trying to implement the FL algorithms are considered. Using the simultaneously wireless information and power transfer (SWIPT) technique Inevitably to charge these IoT battery less elements or wirelessly transfer energy to them. The CS transmits the global model in the downlink to the IoT nodes so that they process their local data with regard to the received model from a base station, then the results of processes are sent back to the CS in the uplink. By joint optimization of the telecommunication and processing parameters in such a way that the average implementation time of the FL is minimized and the proper quality of learning is guaranteed. The problem formulated in the third chapter for optimizing the parameters of the considered system is non-convex and includes conditions with mathematical expectation where the probability density function of stochastic variables is unknown. Therefore, to deal with the problem, a two-stage online successive convex approximation method is used, in which, at the first and second stages, the short and long-term parameters are optimized, respectively. Short-term parameters, including processing frequency, downlink and uplink transmission rates, beamforming vectors, power division coefficients, and the local accuracy level parameter of the federated learning algorithm, is also considered as a long-term parameter. In numerical results, it can be observed that the performance loss for the proposed system using the SWIPT is minimal after optimizing the performance of the proposed system compared to a system without energy transfer by using the SWIPT technique, while the proposed system no longer needs a battery or recharging of IoT nodes.

يادگيري متحد , شبكه MIMO , بي سيم , زمان آموزش , تكنيك SWIPT

Federated Learning , MIMO Network , Wireless , Training Time , SWIPT Technique

Mohammad Mansour Kesargheh

Bahman Abolhassani