استقرار سريع فناوري موبايل نسل پنجم موبايل، با بهره‌گيري از معماري‌هاي با توان عملياتي بالا و تأخير بسيار كم، صنعت مخابرات را متحول كرده است؛ با اين حال، اين تحول به‌طور هم‌زمان موجب گسترش چشمگير سطح تهديدات سايبري نيز شده است. سامانه‌هاي سنتي تشخيص نفوذ (IDS) غالباً در برابر حملات پيچيده و پويا كارايي كافي ندارند. اين پژوهش با هدف پاسخ‌گويي به اين چالش‌هاي امنيتي اساسي، يك چارچوب مقاوم تشخيص ناهنجاري مبتني بر رفتار را با استفاده از الگوريتم CatBoost ارائه مي‌دهد. هدف اصلي اين تحقيق، ارزيابي اثربخشي مدل نه‌تنها در هسته بومي شبكه نسل پنجم موبايل، بلكه بررسي قابليت تعميم‌پذيري بين‌دامنه‌اي آن هنگام استقرار در زيرساخت‌هاي مجاور است. براي اعتبارسنجي اين فرضيه، يك خط لوله روش‌شناختي دقيق طراحي شد كه شامل فرآيند مهندسي ويژگي تخصصي براي همسان‌سازي رفتارهاي ناهمگون ترافيك شبكه بود. مدل به‌صورت انحصاري بر روي مجموعه‌داده5G-NIDD آموزش داده شد تا الگوهاي رفتاري واقعي نسل پنجم را استخراج كند و سپس در قالب يك طراحي آزمايشي چهارمرحله‌اي مورد ارزيابي قرار گرفت. اين طراحي شامل يك ارزيابي پايه درون‌دامنه‌اي و سه آزمون تنش بين‌دامنه‌اي مجزا در برابر مجموعه‌داده‌هاي CIC-DDoS2019 (حملات DDoS حجمي)، TON-IoT (اينترنت اشياي صنعتي) و CIC-UNSW-NB15 (شبكه‌هاي سازماني سنتي) بود. نتايج نشان داد كه مدل در محيط بومي نسل پنجم از كارايي بسيار بالايي برخوردار است (ROC-AUC: 0٫99) و توانست به‌خوبي به دامنه اينترنت اشيا (TON-IoT) تعميم يابد، به‌گونه‌اي كه نرخ بازخواني بدافزار برابر با 92٫8٪ حاصل شد. اين موضوع بيانگر هم‌ترازي قوي رفتاري ميان ترافيك هسته 5G و تهديدات لبه‌اي IoT است. در مقابل، ارزيابي‌ها محدوديت‌هاي قابل‌توجهي را در انتقال مستقيم به شبكه‌هاي سازماني قديمي و محيط‌هاي خاص DDoS آشكار ساخت؛ جايي كه پديده رانش دامنه‌اي (Domain Drift) موجب افت محسوس عملكرد شد (ROC-AUC <‎ 0٫62). اين يافته‌ها نشان مي‌دهند كه اگرچه مدل‌هاي آموزش‌ديده بر پايه 5G مي‌توانند به‌عنوان محافظ‌هاي مؤثر براي محيط‌هاي IoT عمل كنند، اما براي پوشش شبكه‌هاي قديمي نيازمند تكنيك‌هاي پيشرفته انطباق دامنه‌اي جهت پر كردن شكاف توزيع ويژگي‌ها هستند. اين پژوهش با ارائه يك چارچوب اعتبارسنجي‌شده براي امنيت نسل پنجم، به‌صورت كمي بينش‌هايي ارزشمند درباره قابليت انتقال‌پذيري هوش مصنوعي در محيط‌هاي شبكه‌اي ناهمگون ارائه مي‌دهد.

1404/12/02

AI-based Intrusion Detection Systems Application in 5G Mobile; CatBoost algorithm case study

2/16/2026 12:00:00 AM

The rapid deployment of 5G mobile technology has revolutionized telecommunications through high-throughput, low-latency architectures; however, this evolution has simultaneously expan‎ded the cyber-threat lan‎dscape. Traditional Intrusion Detection Systems (IDS) are often insufficient against complex, dynamic attacks. This study addresses these critical security challenges by proposing a robust, behavior-based anomaly detection framework utilizing the CatBoost gradient boosting classifier. The primary objective of this research is to eva‎luate the model’s efficacy not only within the native 5G core but, to assess its cross-domain generalizability when deployed to adjacent infrastructures. To validate this hypothesis, a rigorous methodological pipeline was established, incorporating a specialized feature engineering process designed to harmonize disparate network traffic behaviors. The model was trained exclusively on the 5G-NIDD dataset to capture authentic 5G behavioral signatures an‎d subsequently subjected to a four-phased experimental design. This included a baseline in-domain eva‎luation an‎d three distinct cross-domain stress tests against the CIC-DDoS2019 (Volumetric DDoS), TON-IoT (Industrial IoT), an‎d CIC-UNSW-NB15 (Legacy Enterprise) datasets. The model demonstrated a remarkable efficiency with the native 5G environment. (ROC-AUC: 0.99) an‎d successfully generalized to the IoT domain (TON-IoT), achieving a Malicious Recall of 92.8%. This suggests a strong behavioral alignment between 5G core traffic an‎d IoT edge threats. Conversely, the eva‎luation exposed significant limitations in direct transfer to legacy an‎d specific DDoS environments, where "domain drift" resulted in a substantial performance degradation (ROC-AUC <‎ 0.62). These findings conclude that while 5G-trained models can serve as effective protectors for IoT environments, they require advanced domain adaptation techniques to bridge the feature distribution gap in legacy networks. This research contributes a validated framework for 5G security an‎d quantitatively gives some clues for AI transferability in heterogeneous network environments.

امنيت 5G , سيستم تشخيص نفوذ , يادگيري ماشين , هوش مصنوعى , CatBoost

5G mobile security , AI , Machine learning , Intrusion Detection system (IDS) , Catboost

Mohammed Baqer Hsainy

Dr. Ahmad Akbari Azirani