22035

22035

ارائه ميان‌افزار براي زمان‌بندي پيش‌بينانه كانتينرهاي روي ماشين‌هاي مجازي در سامانه‌هاي ابري مبتني بر مدل محاسباتي بدون‌سرور

كارشناسي ارشد

نرم‌افزار

1395-1398

1398/10/24

دكتر محسن شريفي

كامپيوتر

ارائه كنندگان خدمات ابري اقدام به ارائه توابع محاسباتي به عنوان خدمت (يا محاسبات بدون خدمت‌دهنده) به عنوان يك خدمت جديد كرده‌اند كه در آن فراهم‌كننده ابر مسئوليت اجراي توابع توسعه‌دهندگان نرم‌افزار و همچنين مديريت خدمت‌دهنده‌ها و منابع سيستم را بر عهده گرفته‌ است. لذا توسعه‌دهندگان تنها بايد منطق برنامه‌هاي نرم‌افزاري خود را براساس مجموعه‌اي از توابع ريزدانه تعريف كنند، آن‌ها را بر روي ابر بارگذاري كنند، فراخواني كنند و اجراي آن‌ها را به فراهم‌كننده ابر بسپارند. از اين رو به اين خدمت جديد محاسبات بدون خدمت‌دهنده نيز مي‌گويند. سكوهايي كه براي ارائه اين خدمت توسط شركت‌هاي ابري فراهم شده‌اند، توابع فراخواني شده را در كانتينرهاي مجزا در گره‌هاي مجازي محاسباتي مختلف اجرا مي‌كنند. اين خدمت جديد علاوه بر مزيت‌هايي كه از نظر مالي و سادگي براي اجراي برنامه‌ها براي كاربران دارد، داراي چالش‌هايي نيز هست كه يكي از مهم‌ترين آن‌ها انتخاب سياست زمان‌بندي براي توابعي است كه توسط كاربران فراخواني مي‌شوند. كارهاي انجام شده در اين زمينه بر روي زمان‌بندي و توازن بار گره‌هاي مختلف متمركز شده‌اند. در اين پايان‌نامه ما به ارائه يك روش زمان‌بندي در گره‌هاي كارگر سكوهاي محاسبات بدون خدمت‌دهنده به نام ETAS مي‌پردازيم تا با افزايش كارآيي هر گره، كارآيي كل سيستم را افزايش دهيم. ETAS ابتدا زمان اجراي توابعي كه فراخواني شده‌اند را براساس اجراهاي گذشته آن پيش‌بيني مي‌كند و سپس توابع را در هر گره با استفاده از زمان اجراي پيش‌بيني شده، زمان‌بندي مي‌كند. روش زمان‌بندي ETAS بر روي سكوي متن باز Apache OpenWhisk پياده‌سازي شده و ارزيابي شده است. در اين ارزيابي، زمان پاسخ، توان محاسباتي و بهروه‌وري منابع مورد بررسي قرار گرفته‌اند. ETAS در مقايسه با روش زمان‌بندي OpenWhisk، در هر گره محاسباتي، زمان پاسخ را 20 درصد كاهش، توان محاسباتي را 15 درصد و بهره‌وري منابع را بين نيم تا يك درصد افزايش داده است.

1399/03/18

A Platform-Level Middleware for Predictive Scheduling of Containers on VMs in Serverless Computing Clouds

1/13/2021 12:00:00 AM

Serverless computing (or Function as a service) has emerged as a new cloud computing paradigm, wherein an application consists of individual functions that can be separately managed and executed. In serverless computing, the cloud provider takes the responsibility of managing servers and system resources and completely hides server management from tenants. A function usually executes in a dedicated function instance (like a container) with restricted resources. Serverless platforms must ensure the scalability and elasticity of users’ functions, which includes proactively provisioning resources in response to load, and anticipation of the future load. However, this is a more challenging problem in serverless platforms because these predictions and provisioning decisions and scheduling must be made with little or no application-level knowledge. Work in this area has focused on load balancing, and there is no effort on the scheduling of each node to improve system efficiency. In this dissertation, we propose a scheduling method, called ETAS, for each worker node of the serverless platforms to increase the efficiency of the overall system by increasing the efficiency of each node. ETAS first predicts the execution times of functions based on previous executions and schedules them at each nodes using the predicted execution times. The ETAS scheduling method is implemented and evaluated on the Apache OpenWhisk platform. The results show that ETAS increases response time by 20 percent, throughput by 15 percent, and resource utilization by 0.5 to 1 percent compared to the OpenWhisk scheduling method.