28488

مقياس پذيري خودكار فعال افقي در كوبرنتيز با استفاده از تحليل سري زماني و حافظه بلند كوتاه مدت

كارشناسي ارشد

مهندسي كامپيوتر

1399

1402/03/03

دكتر رضا انتظاري ملكي

مهندسي كامپيوتر

ابرهاي عمومي و خصوصي از كاربران مي‌خواهند تا منابع مورد نياز نرم‌افزارهاي خود را به تأمين‌كننده ابر، اعلام كنند. مقادير اعلام شده لزوماً با منابع مصرفي نرم‌افزارها در زمان اجرا مطابقت ندارد. اگر نرم‌افزاري در زمان اجرا به منابع بيش‌تري نياز پيدا كند ممكن است در پاسخ به درخواست‌ها با خطا مواجه شود. مسئوليت تخصيص و آزادسازي منابع با توجه به نرخ ورود درخواست‌ها برعهده سيستم مقياس‌پذيري خودكار است. در اين پژوهش يك استراتژي پياده‌سازي سيستم مقياس‌پذيري خودكار فعال براي نرم‌افزارهاي كانتينرسازي‌شده بر روي كوبرنتيز معرفي شده كه با استفاده از تحليل داده سري زماني و شبكه عصبي حافظه بلند-كوتاه مدت، پياده‌سازي شده است. اين دو روش با يكديگر تركيب شده‌اند تا وابستگي‌هاي داده سري زماني چند متغيره با استفاده از آن‌ها استخراج شود و مقياس‌بندي خودكار فعال با استفاده از استخراج الگوي رفتاري بهره‌وري منابع انجام گيرد. براي استخراج اين الگوها از داده ابر Alibaba در سال 2017 استفاده شده است. با استفاده از الگوهاي استخراج شده يك مقياس‌بند خودكار فعال افقي براي پادها در كوبرنتيز طراحي شده است. آزمايش‌ها نشان داده است كه مقياس‌بند خودكار افقي پاد (HPA) در كوبرنتيز در مواجهه با بار كاري كه تغييرات دوره‌اي دارد، كارايي قابل‌قبولي ندارد و مقياس‌بند خودكار فعال افقي پيشنهاد شده در اين پژوهش در مواجهه با جهش‌هاي باركاري تا 20٪ بهتر از HPA عمل مي‌كند. همچنين نشان‌داده‌شده است شبكه عصبي پيشنهاد شده در اين پژوهش به طور ميانگين تا 23٪ خطاي RMSE كمتري نسبت به روش‌هاي مشابه دارد.Public and private clouds require users to declare their software resource requirements to the cloud provider. The declared values do not necessarily correspond to the applications' runtime resource consumption. If an application requires more resources in runtime, it may encounter throttling and even termination. Autoscaling systems are in charge of allocating and releasing resources in response to changes in incoming requests.In this research, a proactive auto scaler for containerized software on Kubernetes has been introduced, which is implemented using time series data analysis and LSTM neural network. These two methods are combined to extract multivariate time series data correlation and use them to extract data behavioral patterns to predict resource usage in the future. Alibaba Cluster Trace for 2017 was used to extract these patterns. Using the output, a horizontal active auto scaler for Pods in Kubernetes was designed. In the experiments, it has been observed that the horizontal pod auto scaler (HPA) in Kubernetes does not perform well in the face of a load that has periodic changes, and the horizontal active auto scaler designed in this research performs up to 20% better than the HPA. It has also been shown that the neural network designed in this research has 23% less RMSE error than similar methods.

1402/04/12

proactive horizontal auto-scaling in Kubernetes based on time¬series analysis and long short-term memory

5/23/2024 12:00:00 AM

Public and private clouds require users to declare their software resource requirements to the cloud provider. The declared values do not necessarily correspond to the applications' runtime resource consumption. If an application requires more resources in runtime, it may encounter throttling and even termination. Autoscaling systems are in charge of allocating and releasing resources in response to changes in incoming requests.In this research, a proactive auto scaler for containerized software on Kubernetes has been introduced, which is implemented using time series data analysis and LSTM neural network. These two methods are combined to extract multivariate time series data correlation and use them to extract data behavioral patterns to predict resource usage in the future. Alibaba Cluster Trace for 2017 was used to extract these patterns. Using the output, a horizontal active auto scaler for Pods in Kubernetes was designed. In the experiments, it has been observed that the horizontal pod auto scaler (HPA) in Kubernetes does not perform well in the face of a load that has periodic changes, and the horizontal active auto scaler designed in this research performs up to 20% better than the HPA. It has also been shown that the neural network designed in this research has 23% less RMSE error than similar methods.

مقياس پذيري خودكار فعال , پيش‌بيني بهره‌وري منابع , كوبرنتيز , تحليل سري زماني , شبكه عصبي حافظه بلند-كوتاه مدت

proactive autoscaling , resource utilization prediction , kubernetes , time series analysis , lstm neural network

reihaneh barfeh

reza entezari-maleki