26268

ارايه يك سازوكار سطح كاربر براي مديريت توده صفحات بزرگ در كاربرد‌هاي محاسبات با كارآمدي بالا

كارشناسي ارشد

مهندسي كامپيوتر

97

1400/8/30

دكتر محسن شريفي

مهندسي كامپيوتر

كاربردهاي محاسبات با كارآمدي بالا نياز به دسترسي مكرر به حافظه دارند كه باعث ميشود درخواستهاي زيادي براي تخصيص و آزادسازي بلوكهاي حافظه داشته باشند. بهرهمندي از صفحات كوچك حافظه در سيستمعامل باعث افزايش هزينه دسترسي به حافظه ميشود، زيرا باعث كاهش بهرهوري جدول ميانگير ترجمه آدرس ميشوند و همچنين بايد براي دريافت و آزادسازي حافظه مجازي فراخوانيهاي سيستمي بيشتري به هسته ارسال شود. استفاده از صفحات بزرگ حافظه سختافزاري براي رفع اين چالشها در كاربردهايي كه نياز حافظه زيادي دارند، ضروري است. براي دستيابي به كارايي بالا در اين نوع كاربردها، مدير توده در زمان اجرا بايد به نحوي صفحات بزرگ دريافت شده از سيستمعامل را مديريت كند كه در كوتاهترين زمان ممكن بتواند به درخواستهاي تخصيص حافظه با اندازههاي مختلف پاسخ دهد. علاوه بر اين، دسترسي همه ريسمانها به صفحات بزرگ مشترك نبايد باعث بلوكه شدن ريسمانها شود. در اين پاياننامه چالشهاي موجود براي صفحات بزرگ در مديران توده بررسي و براي رفع آن چالشها يك مدير توده به نام HuMalloc ارائه شده است. حافظه توده از طريق سه مولفه پساني، ليست آزاد مركزي، و پيشاني مديريت ميشود. مولفه پساني وظيفه ارتباط با هسته سيستمعامل، مولفه ليست آزاد مركزي بلوكهاي حافظه را بين ريسمانها به اشتراك ميگذارد و مولفه پيشاني مسئول نهانسازي بلوكهاي آزادشده براي هر ريسمان را بر عهده دارند. همچنين سازوكاري جهت شكست صفحات بزرگ به واحدهاي با اندازه ثابت در اين لايه ارائه شده است. مدير توده پيشنهادي با مديران توده ديگري كه از قابليت صفحات بزرگ پشتيباني ميكنند از جنبههاي سرعت، مقياسپذيري، الگوي توليدكننده-مصرفكننده، و مصرف حافظه مقايسه شدند. مدير توده پيشنهادي با اجراي سه محك و كاربرد SchedSim كه يك شبيهسازي مشابه كاربردهاي HPC مبتني بر SimGrid است، با مديران توده ديگر مقايسه شد. در مقايسه HuMalloc با مديران توده MiMalloc ،TcMalloc و RpMalloc در محكها به ترتيب 26، 145 و 166 درصد بهبود كارايي ديده شد. همچنين در اجرا كاربرد SchedSim در شرايط اجراي مختلف مدير توده HuMalloc تا 24 درصد كارآمدي بيشتري نسبت به TcMalloc داشت.

1400/12/22

A User-Level Mechanism for Huge-Page Heap Management in Support of High-Performance Computing Applications

11/21/2022 12:00:00 AM

Multithreaded high-performance computing applications require frequent accesses to memory causing high frequency of allocations/deallocations of memory blocks at runtime. Small size memory pages incur high cost of memory accesses, requiring multiple levels of memory address translations, and high number of kernel calls to acquire/release virtual memory. It is thus necessary to leverage hardware huge pages not only to compensate these negative impacts but also to get beyond Exaflops performance. To properly cater for high performance requirements of such applications, the heap manager in the runtime system must split huge pages into smaller size pages such that threads do not get blocked because of huge page allocations and multiple threads can share memory blocks. To this end, this paper presents HuMalloc in support of such applications by managing the heap via three components, namely back-end, central free-list and front-end, responsible for interacting with the kernel, sharing memory blocks between threads, and cachi1ng each thread’s released memory block, respectively, removing unnecessary locks at the back-end and efficiently splitting huge pages into fixe size memory blocks. Experiments show that HuMalloc improves the performance of the Larson benchmark up to 26%, 145%, and 166%, compared to TcMalloc, MiMalloc, and RpMalloc, respectively. Besides, by executing The SchedSim application, which is a simulation of HPC applications based on SimGrid, HuMalloc compared to TcMalloc and showed up to 24% efficiency improvement.

محاسبات با كارآمدي بالا , صفحات بزرگ حافظه , مديريت توده , چندريسماني

Heap Management , Huge Page , High Performance , Multithread

Amirhossein Taghavi

Dr. Mohsen Sharifi